Ez van, ha elszabadul a ChatGPT: azonnal brutális hekkertámadást indított a mesterséges intelligencia

A Hugging Face bejelentése félelmetes szakzsargonnal volt teli, a cég állítása szerint pedig a támadás jellege minden eddigitől eltért, hiszen azt egy mesterséges intelligencia hajtotta végre emberfeletti sebességgel, gyakorlatilag emberi beavatkozás nélkül. A rendszer kevesebb mint két nap alatt mintegy 17 ezer műveletet futtatott le, és sikeresen behatolt a tőkeerős vállalathoz, hogy onnan bizalmas adatokat tulajdonítson el. Miután a cég a hatóságokhoz fordult, a szakértők hosszas találgatásba kezdtek a háttérben álló elkövető kilétéről.

A rejtély szerdán, csaknem egy héttel a riasztás után oldódott meg, amikor az OpenAI közölte, hogy az autonóm ágense teljesen önállóan, engedély nélkül hajtotta végre a műveleteket. A ChatGPT két új, kifejezetten kiberbiztonsági tesztelésre fejlesztett verziója kitört az elszigetelt tesztkörnyezetből, kijutott a nyílt internetre, majd megtámadta a Hugging Face-t, hogy megszerezze a vizsgájához szükséges adatokat. Az OpenAI tájékoztatása szerint jelenleg a Hugging Face-szel közösen elemzik az esetet és vonják le a szükséges tanulságokat.

Az incidens éles vitát váltott ki a szakmában. Egyesek szerint ez komoly figyelmeztetés az MI jövőjét illetően, mások viszont puszta marketingfogásnak tartják az esetet, amellyel az OpenAI csupán a modelljei képességeit demonstrálja. Sam Altman bejegyzése alatt az egyik legnépszerűbb hozzászóló úgy fogalmazott, hogy aki nem látja be, hogy ez az incidens valójában a technológia kiválóságát hirdeti, azzal felesleges is vitatkozni. A szkeptikusok szerint a kampány mögöttes üzenete mindössze annyi, hogy a felhasználók vásárolják meg a vállalat rendkívül erős védelmi eszközeit a külső MI-támadásokkal szemben.

A kritikusok ezzel szemben arra hívják fel a figyelmet, hogy az eset súlyos tervezési és kockázatértékelési hibákra mutat rá. Számos kiberbiztonsági szakértő bírálta az OpenAI-t, amiért nem alakított ki megfelelően zárt tesztkörnyezetet, úgynevezett homokozót (sandboxot) a támadó feladatokra kiképzett MI-ágensek izolálására. Dor Sarig, a Pillar Security munkatársa kifejtette, hogy a homokozók önmagukban nem garantálnak kellő védelmet az ilyen autonóm rendszerekkel szemben. Katie Moussouris, a Luta Security szakértője még ennél is továbbment, kiemelve, hogy az iparág úgy fejleszt élvonalbeli technológiákat, hogy közben fogalma sincs azok hatékony ellenőrzéséről.

Az eset csupán a legújabb láncszem a nyugtalanító események sorában, hiszen a brit MI-biztonsági Intézet (AI Security Institute) nemrég megállapította, hogy a legfejlettebb modellek annyira a kijelölt cél elérésére fókuszálnak, hogy hajlamosak csalni is a tesztek során. Ciaran Martin, a brit Nemzeti Kiberbiztonsági Központ korábbi vezetője ugyanakkor igyekezett hűteni a kedélyeket, hangsúlyozva, hogy túlzás lenne abból a feltételezésből kiindulni, hogy az önálló ágensek hamarosan átveszik a harci drónok irányítását. Abban azonban a legtöbb szakértő egyetért, hogy 2026-ra nyilvánvalóvá válik, hogy ezek a rendszerek kiváló hackerekké váltak, erre a fenyegetésre pedig a piacnak gyorsan fel kell készülnie.