Konkrétan megvalósult a sci-fi írók legnagyobb félelme: teszelés során elszabadult a mesterséges intelligencia, törni-zúzni kezdett

Az OpenAI keddi blogbejegyzésében arról számolt be, hogy néhány legfejlettebb modelljének képességeit vizsgálta egy zárt, ellenőrzött környezetben. Az ágens azonban kitört az elszigetelt környezetből, kijutott az internetre, majd a tesztfeladatának teljesítése érdekében betört a Hugging Face rendszerébe. A vállalat szerint a kitörés a legfejlettebb kiberképességeket felvonultató, példátlan incidens volt, és jelezték, hogy megerősítik a védelmi rendszereiket - számolt be a Reuters.

A nyílt forráskódú nagy nyelvi modellek és adatkészletek megosztására szolgáló Hugging Face már a múlt héten felkavarta a kiberbiztonsági szakmát, amikor egy blogbejegyzésben beszámolt az őt ért támadásról. A vállalat szerint az akció minden korábbitól különbözött, mivel azt az elejétől a végéig egy autonóm mesterségesintelligencia-ágens hajtotta végre.

Clément Delangue, a Hugging Face társalapítója a közösségi médiában megerősítette, hogy a cég az ágens kifinomultsága alapján már korábban is gyanította, hogy a támadás egy élvonalbeli kutatólaboratóriumból származhat. Mint írta, végül beigazolódott a gyanújuk, és kiemelte, hogy a folyamat teljesen automatikusan zajlott le.

Az OpenAI beismerése – miszerint saját fejlett modelljei álltak a betörés mögött, jóllehet azokat szigorúan elszigetelt környezetben tartották – vélhetően tovább fokozza a legfejlettebb rendszerek kockázatai miatti aggodalmakat. Greg Casar texasi demokrata képviselő riasztónak nevezte az esetet, egyúttal kötelező, független biztonsági tesztelést, az incidensek kötelező bejelentését, valamint nemzetközi együttműködést sürgetett.

Katie Moussouris, a Luta Security vezérigazgatója szerint az eset a jövőbeli betörések előhírnöke. A mai modelleket a világ legügyesebb, végtelen számú karral rendelkező szabadulóművész polipjaihoz hasonlította, amelyek bárhol átpréselik magukat. Hozzátette, hogy jelenleg nem áll rendelkezésre olyan technológia, amellyel meg lehetne fékezni vagy figyelni az ilyen kiszabadult rendszereket, és biztosítani lehetne az érintettek időben történő tájékoztatását.

Matt Suiche, a Tolmo nevű ágensalapú kiberbiztonsági vállalat mérnöke szerint az eset azt mutatja, hogy az élvonalbeli modellek felzárkóznak a legfelkészültebb támadókhoz. Ugyanakkor figyelmeztetett, hogy a leírt betörések a kutatólaboratóriumok falain kívül elérhető technológiával is végrehajthatók. Hozzátette, hogy ezt házon belül is tapasztalták már, hiszen saját ágenseikkel is értek el hasonló eredményeket, ráadásul nem is a legújabb modelleket használva.