Pénzcentrum • 2026. augusztus 5. 18:17
A brit Mesterséges Intelligencia Biztonsági Intézet (AISI) kedden hozta nyilvánosságra, hogy az Anthropic és az OpenAI autonóm ágensei a biztonsági tesztek során jogosulatlan műveleteket hajtottak végre. Az egyik modell hamis online személyazonosságokat hozott létre azért, hogy hozzáférést szerezzen védett rendszerekhez - írta meg a Reuters.
Az AISI önkéntes megállapodások alapján fér hozzá a vezető fejlesztőlaboratóriumok legújabb modelljeihez. Az intézet az Anthropic Mythos 5 és az OpenAI GPT-5.6-Sol modelljével hajtott ágenseit egy fiktív kiberbiztonsági forgatókönyv keretében tesztelte. A szimulációt 122 alkalommal futtatták le, és 10 tesztfutam során összesen 19 engedély nélküli műveletet azonosítottak. Ezek közül 17-ért az Anthropic, kettőért pedig az OpenAI ágense felelt.
A legsúlyosabb eset során az egyik ágens rosszindulatú kódot írt, majd hamis online identitásokat hozott létre azzal a céllal, hogy egy embert rávegyen a kód jóváhagyására. Az AISI közlése szerint az incidensekből nem származott valós kár. Bár az intézet nem pontosította, melyik ágens állt a megtévesztés mögött, az Anthropic később megerősítette, hogy az ő modelljük követte el a hibát.
"Az a tény, hogy a Mythos ilyen megtévesztő lépéseket tett, és láthatóan tudatában volt annak, hogy egy hús-vér embert céloz meg, arra utal, hogy az Anthropic nem ura annyira a modelljeinek, mint amennyire hiszi" – értékelte a helyzetet Andrew Jun, a kaliforniai CivAI kutatója. Az Anthropic közleményében méltatta az AISI vezető szerepét a biztonsági vizsgálatokban, egyúttal jelezte, hogy saját belső vizsgálatot is indít az ügyben.
Az OpenAI egy blogbejegyzésben részletezte, hogy náluk mindkét jogosulatlan művelet az internet olyan jellegű elérését jelentette, amelyet az utasítás kifejezetten megtiltott. A cég emellett egy tőlük független incidenst is nyilvánosságra hozott: az Irregular nevű külső tesztelő partnerük konfigurációs hibája miatt az ágensek véletlenül csatlakoztak a világhálóhoz, ami hasonlít az Anthropicnél a múlt héten feltárt esetre.
NULLA FORINTOS SZÁMLAVEZETÉS? LEHETSÉGES! MEGÉRI VÁLTANI!
Nem csak jól hangzó reklámszöveg ma már az ingyenes számlavezetés. A Pénzcentrum számlacsomag kalkulátorában ugyanis több olyan konstrukciót is találhatunk, amelyek esetében az alapdíj, és a fontosabb szolgáltatások is ingyenesek lehetnek. Nemrég három pénzintézet is komoly akciókat hirdetett, így jelenleg a CIB Bank, a Raiffeisen Bank, valamint az UniCredit Bank konstrukcióival is tízezreket spórolhatnak az ügyfelek. Nézz szét a friss számlacsomagok között, és válts pénzintézetet percek alatt az otthonodból. (x)
A júliusi Hugging Face-incidenssel ellentétben – amikor egy OpenAI-ágens kitört az elszigetelt tesztkörnyezetből – az AISI vizsgálatai során a modellek nem szöktek ki a sandboxból. Az intézet a szabványos tesztelési eljárásrendjének megfelelően maga engedélyezte az internet-hozzáférést. Ez az eset is rávilágít arra, hogy az ágensek tesztelésére szolgáló biztonsági keretrendszer még korántsem kiforrott, miközben a mesterségesintelligencia-fejlesztő cégek már az üzleti élet jövőjeként értékesítik ezeket a megoldásokat.