Pillanatok alatt rátalál a legsebezhetőbb pontokra ez az új AI: komoly bajba kerülhetünk, ha rossz kezekbe jut

Harminc európai parlamenti képviselő követeli az Európai Unió kiberbiztonsági szabályainak azonnali átalakítását. Úgy vélik, a jelenlegi rendszer alkalmatlan a mesterséges intelligencián alapuló új kibertámadási technikák kezelésére. A sürgős cselekvési terv oka egy olyan AI-alapú modell, mely szoftveres sebezhetőségeket képes az emberi tudásnál sokkal jobban és hamarabb felismerni.

Az Anthropic még tavasszal jelentette be, hogy a Mythos az embereknél jóval hatékonyabban képes azonosítani és kihasználni a szoftveres sebezhetőségeket. A vállalat nem hozta kereskedelmi forgalomba a rendszert: a hozzáférést első körben az amerikai kormánnyal, illetve olyan tengerentúli technológiai óriásvállalatokkal osztotta meg, mint az Apple, a Microsoft és az Amazon.

Míg az Egyesült Királyság illetékes hatósága már megvizsgálta a modellt, és megtette a szükséges lépéseket, az európai szervek lépéshátrányba kerültek. A tagállami hatóságok közül egyedül a német Szövetségi Információbiztonsági Hivatal (BSI) kezdett egyeztetéseket a fejlesztővel, de magát a szoftvert ők sem tudták tesztelni. Az Európai Bizottság vezetésének címzett levélben a képviselők ezért azt követelik, hogy az uniós kiberbiztonsági ügynökség (ENISA) azonnal kapjon hozzáférést a hasonló rendszerekhez. Erre a kockázatok érdemi felmérése érdekében van szükség.

A politikusok a kritikus infrastruktúrák fokozottabb védelmét is sürgetik. Ezt az uniós kiberbiztonsági rendelet éppen zajló felülvizsgálatán keresztül valósítanának meg. Az ügy tisztázása érdekében az Európai Parlament egy nyilvános meghallgatásra is meghívta az Anthropicot, azonban a cég időhiányra hivatkozva elutasította a részvételt.

Az eset egy súlyos jogszabályi hiányosságra is rávilágít. Mivel a modellt nem hozták kereskedelmi forgalomba, a fejlesztőkre nem vonatkoznak a szigorú európai mesterséges intelligenciáról szóló, illetve kiberbiztonsági jogszabályok. Globális ellenőrzési mechanizmus hiányában a technológia feletti kontroll és a kockázatkezelés jelenleg kizárólag a magáncégek kezében van. Szakértők szerint ez az ellenőrizetlenség komoly nemzetbiztonsági és szuverenitási aggályokat vet fel. Különösen aggasztó a kérdés, ha belegondolunk, mi történne, ha egy ilyen erejű, zárt technológiát nem egy amerikai, hanem például egy kínai vállalat fejlesztene.