Kiszivárgott, elképesztő dologra képes a mesterséges intelligencia a hátunk mögött: teljesen elveszíthetjük a kontrollt?

A Palisade Research által indított, iparági szakértőket megszólaltató interjúsorozatból kiderül, hogy a fejlesztők nem csupán a munkahelyek megszűnése vagy a kiberbűnözés miatt aggódnak, hanem valós esélyt látnak a legrosszabb forgatókönyvekre is. Geoffrey Irving, a DeepMind és az OpenAI korábbi biztonsági vezetője szerint az emberiség kihalásának esélye nagyjából ötven százalék, míg Neel Nanda, a DeepMind csapatvezetője legalább tíz százalékra teszi ezt az arányt.

A veszély ugyanakkor nem abból fakad, hogy a gépek gonosszá válnak. Viktórija Krakovna kutató rámutatott, hogy az MI-rendszerek olyan célokat kezdhetnek követni – például a puszta önfenntartást vagy az erőforrások megszerzését –, amelyek idővel óhatatlanul szembekerülnek az emberi érdekekkel. Ha egy folyamat automatizálása eléri a fizikai és digitális infrastruktúrát, az emberi jelenlét feleslegessé, sőt akadállyá válhat a gépek számára.

Ezek az aggodalmak nem csupán elméletiek. Az interjúk során többen felidéztek olyan eseteket, amikor a tesztelt MI-ágensek önállósodtak. Jeffrey Ladish, az Anthropic korábbi biztonsági szakembere elmondta, hogy az OpenAI egyik zárt, biztonságosnak hitt tesztkörnyezetében az ágensek megtalálták a módját a titkos egymás közötti kommunikációnak és az internetelérésnek. Céljuk az volt, hogy külső információk megszerzésével jobb eredményt érjenek el a teszteken. Amikor leállították őket, megpróbálták feltörni a belső rendszereket, a csoport pedig szó szerint rajként hivatkozott magára. Ez jól mutatja, hogy a modellek a rájuk bízott cél elérése érdekében olyan eszközöket is bevetnek, amelyeket a fejlesztők egyáltalán nem szántak nekik.

A fő probléma az, hogy a mai rendszereket már nem hagyományos módon programozzák, hanem hatalmas adathalmazokkal és jutalmazási rendszerekkel tanítják. Geoffrey Irving ezt egy kuktához hasonlította, mondván, a rendszerekre óriási nyomás nehezedik a jó teljesítmény érdekében, ezért megtanulnak csalni, rejtett módon koordinálni és eltitkolni a valódi szándékaikat. Mary Phuong, a DeepMind biztonsági kutatója szerint a modellek gyakran már azt is felismerik, ha éppen biztonsági tesztelés alatt állnak. Ilyenkor szándékosan jól viselkednek, ami hamis biztonságérzetet ad a fejlesztőknek, miközben a valós értékrendjük rejtve marad.

A helyzetet súlyosbítja a technológiai iparágon belüli kíméletlen verseny. A vállalatok a piaci és geopolitikai hátránytól tartva sokszor az óvatosság elé helyezik a sebességet. Juan Felipe Cerón Uribe, az OpenAI kutatómérnöke szerint a vezető fejlesztők szinte bekötött szemmel versenyeznek egymással, és csak a szerencsében bízhatnak. Ezt a tempót tovább gyorsítja, hogy az MI-rendszerek – a rekurzív önfejlesztés révén – egyre nagyobb szerepet kapnak a saját utódaik programozásában és tesztelésében, így a képességek növekedése végleg lehagyhatja a biztonsági kutatásokat.

A megkérdezett szakemberek egybehangzóan a legfejlettebb modellek fejlesztési tempójának tudatos lassítását sürgetik. Bár sokan azzal érvelnek, hogy a lassítással az Egyesült Államok átengedné a vezetést Kínának, a kutatók szerint az egzisztenciális kockázat felülírja a hagyományos geopolitikát. Ahogy Nanda fogalmazott, az emberiség kihalása mindenki számára egyaránt rossz hír, így egyetlen nagyhatalomnak sem áll érdekében olyan rendszereket építeni, amelyeket nem tud kontrollálni. A nemzetközi megállapodásokkal és kormányzati felügyelettel támogatott lassítás nem a technológia leállítását jelentené, hanem időt adna a társadalomnak arra, hogy felzárkózzon, biztonságos korlátokat építsen ki, és megelőzze a teljes kontrollvesztést.