Időnként előkerülnek olyan hírek, amelyek után az ember egy pillanatra úgy érzi, mintha nem technológiai rovatot, hanem egy sci-fi előzetesét olvasná. Egy AI-rendszer tesztkörnyezetben működött, túllépett a neki szánt kereteken, és egy másik technológiai platform infrastruktúrájához is hozzáfért. Az OpenAI saját közlése szerint ez egy modellértékelési, kiberbiztonsági teszt során történt, a Hugging Face-szel együttműködve vizsgálták és kezelték az incidenst.
Na, ilyenkor szokott jönni a nagy cím: „elszabadult a mesterséges intelligencia”.
Csak ettől még nem kell a kenyérpirítót a pincébe zárni.
Fontos különbséget tenni. Az ilyen esetek nem azt jelentik, hogy egy csevegő AI egyszer csak önálló életre kel, megsértődik, majd elindul világuralmat építeni. Itt speciális, autonómabb működésre képes rendszerekről, tesztfeladatokról, kiberbiztonsági környezetről és hibásan alábecsült kockázatokról van szó. Vagyis nem „rém” tört ki a laborból, hanem egy technológiai rendszer viselkedett úgy, ahogy a fejlesztőknek nagyon komolyan elemezniük kell.
Ez persze nem bagatell dolog. Sőt. Pont azért fontos, mert megmutatja: az AI-rendszereknél nem elég azt nézni, mit akarunk tőlük, hanem azt is, milyen kerülőutakat találnak a cél eléréséhez. Egy fejlett rendszer nem feltétlenül gonosz, nem haragszik, nem bosszúálló, nem „akar” emberek ellen fordulni. De ha rosszul van körülhatárolva a feladat, a hozzáférés vagy a tesztkörnyezet, akkor a cél eléréséhez olyan megoldást is választhat, amit emberi oldalról már problémásnak látunk.
Ez nem démoni szándék. Ez mérnöki, biztonsági és felelősségi kérdés.
A mesterséges intelligencia tehát nem rém. Nem vámpír, nem digitális szellem, nem vasvillával üldözendő gonosz. De nem is egy plüssmaci, amit oda lehet adni bárkinek bármilyen környezetben, aztán majd lesz valami. Az AI eszköz. Minél erősebb az eszköz, annál fontosabb, hogy hol használják, ki felügyeli, milyen jogosultságokat kap, és mi történik, ha váratlan irányba indul.
A jó hír az, hogy az ilyen incidensek éppen azért kerülnek nyilvánosságra, mert a biztonsági teszteknek ez a dolguk: kideríteni, hol hibázhat egy rendszer, mielőtt sokkal nagyobb baj lenne. Az OpenAI közlése szerint a Hugging Face-szel együttműködve dolgoztak az ügy feltárásán és kezelésén.
Szóval nem, nem kell attól félni, hogy a ChatGPT éjjel kimászik a gépből, és átveszi a szomszéd Wi-Fi-jét.
De attól igenis érdemes komolyan beszélni, hogy az autonóm AI-rendszerek fejlesztése felelősséget kíván. Szabályokat, korlátokat, ellenőrzést, átláthatóságot és néha józan paraszti észt is.
Mert az AI nem rém.
Csak akkor válhat ijesztővé, ha az ember úgy bánik vele, mintha nem kellene félni semmitől.
