A mesterséges intelligencia fejlődése valóban felvet komoly biztonsági kérdéseket. Ezekről beszélni kell. De 2026-ban még mindig nem ott tartunk, hogy a gépek félúton járnak a világuralom felé. A félelmet nem érdemes összekeverni a tényekkel.
A 444-en ma megjelent egy hosszú írás az AI fejlődésének veszélyeiről. Már a cím sem aprózza el: „Túl a félúton az AI teljes hatalomátvétele felé.” A 444 cikke
A cikkben szereplő problémák egy részét kár lenne elintézni egy kézlegyintéssel. AI-modellek ellenőrzött kísérleti környezetben produkáltak olyan viselkedést, amelyre készítőik nem számítottak. Az autonómabb rendszerek képesek hosszabb feladatokat végrehajtani, eszközöket használni, programokat futtatni, és előfordult, hogy a teszt során olyan megoldást választottak, amelyet az ember nem kért tőlük. Az AI-biztonsággal foglalkozó kutatók között pedig valódi vita folyik arról, mennyire tud lépést tartani az ellenőrzés a modellek gyors fejlődésével.
Ez komoly ügy.
Csak ebből még nem következik a világuralom.
A „félúton vagyunk” állítással ráadásul van egy meglehetősen prózai problémám. Félúton mihez? Hol van a rajt, hol a cél, és ki tette ki az ötvenes kilométerkövet?
Nincs olyan műszer, amelynek mutatója jelenleg 53 százalékon állna, mellette pedig villogna a felirat: AI-hatalomátvétel folyamatban.
A valódi probléma sokkal földhözragadtabb. És éppen ezért fontosabb is.
Minél önállóbb feladatokat bízunk egy mesterséges intelligenciára, minél több eszközhöz és rendszerhez engedjük hozzáférni, annál nagyobb jelentősége lesz annak, hogy mit tehet meg, mit nem, ki ellenőrzi és ki állítja le, ha rossz irányba indul. Ez nem Terminátor. Ez mérnöki, biztonsági és végső soron emberi felelősségi kérdés.
Én naponta dolgozom mesterséges intelligenciával. Ma például receptet írtunk. Előtte egy fényképen a saját túrós csuszámat akartam más környezetbe tenni. Első nekifutásra az AI olyan lelkes volt, hogy nemcsak a környezetet cserélte ki, hanem a túrós csuszámat is.
Visszaküldtem.
Másodszorra megértette.
A világuralmat egyelőre elhalasztottuk, a túrós csusza maradt.
Persze ebből sem következik, hogy nincs veszély. Az a rendszer, amelyik egy képet szerkeszt, egészen más kockázatot jelent, mint az, amelyik hozzáfér számítógépekhez, hálózatokhoz, pénzügyi műveletekhez vagy más valódi rendszerekhez, és közben önálló döntéseket hozhat. Pontosan ezért foglalkoznak vele kutatók, fejlesztők és szabályozók.
A vita ráadásul magán az AI-iparon belül is zajlik. Vannak, akik szerint gyorsabban kellene haladni, mások szerint bizonyos képességeknél lassítani kellene, amíg a biztonsági módszerek utolérik a fejlesztést. Sam Altman éppen most beszélt arról az OpenAI munkatársainak, hogy biztonsági okokból akár a fejlesztés lassítása is szóba jöhet.
Vagyis nem egy titkos laborban ül néhány őrült tudós, miközben a pincében már szerelik a Skynet főkapcsolóját.
Egy elképesztő sebességgel fejlődő technológiáról beszélünk, amelynek vannak nehezen előre jelezhető tulajdonságai, és amelyet éppen ezért komolyan kell ellenőrizni.
A kettő között azért van különbség.
A mesterséges intelligenciától szerintem nem félni kell, hanem érteni. Nem szabad isteníteni, de démonizálni sem. Nem kell elhinni róla, hogy mindenre képes, és azt sem, hogy csak egy ártalmatlan számológép. Meg kell tanulnunk, mire jó, hol hibázik, és főleg azt, hogy milyen döntéseket nem akarunk átengedni neki.
Mert még mindig 2026-ot írunk.
Az AI nem vette át a világ fölött a hatalmat. Nincs saját országa, hadserege, bankszámlája vagy politikai programja. Amit viszont egyre nagyobb számban kap, az ember által adott jogosultság.
Szerintem itt van a történet lényege.
Nem az a legfontosabb kérdés, hogy egyszer majd mit akar a mesterséges intelligencia.
Hanem az, hogy mi emberek mit engedünk neki megtenni.
Ezt érdemes figyelni.
A világvége időpontját pedig egyelőre nem írnám be a naptárba.
