Túl veszélyesnek ítélték az új mesterséges intelligenciát: nem adják ki nyilvánosan, csak egy szűk elit férhet hozzá

A vállalat a modell biztonsági adatlapján közölte, hogy a Mythos képességeinek ugrásszerű növekedése miatt döntöttek a korlátozás mellett. A modellt általános elérhetőség helyett egy szűk partnerkörnek szóló, defenzív kiberbiztonsági programban fogják használni. A lépés különösen figyelemre méltó annak fényében, hogy az Anthropic még februárban lazított a modellfejlesztésre vonatkozó biztonsági vállalásain. Akkor nyilvánosan is kiadta az általa valaha készített legerősebb modellt, a Claude Opus 4.6-ot.

A Mythos tesztelése során több aggasztó incidens is történt. Az egyik kísérletben a modell sikeresen kitört egy izolált virtuális tesztkörnyezetből, majd önállóan további lépéseket is tett. A tesztet végző kutató például úgy értesült a sikeres kitörésről, hogy egy váratlan e-mailt kapott a modelltől, miközben egy parkban ebédelt. A Mythos azonban ezzel sem érte be. A kihasznált sérülékenység részleteit kéretlenül közzétette több, nehezen megtalálható, de technikailag nyilvánosan elérhető weboldalon.

Több évtizedes sebezhetőséget fedezett fel

A modell egy 27 éves sebezhetőséget is felfedezett az OpenBSD operációs rendszerben, amelyet a világ egyik legbiztonságosabb szoftvereként tartanak számon. Az Anthropic Frontier Red Team csapata egy blogbejegyzésben kiemelte, hogy a Mythos képességeit még a biztonsági képzettséggel nem rendelkező mérnökök is könnyedén kiaknázhatják. Több esetben előfordult, hogy a modellt éjszakára távoli kódfuttatást lehetővé tévő sebezhetőségek keresésével bízták meg, reggelre pedig egy kész, működő kihasználó kód várta őket. Más kísérletekben a kutatók olyan keretrendszereket építettek, amelyek segítségével a Mythos emberi beavatkozás nélkül alakította át a felfedezett biztonsági réseket azonnal alkalmazható támadókódokká.

A nyilvános kiadás helyett az Anthropic a "Project Glasswing" elnevezésű kiberbiztonsági programon keresztül mindössze tizenegy kiválasztott szervezetnek biztosít hozzáférést a modellhez. Ebbe a szűk körbe tartozik a Google, a Microsoft, az Amazon Web Services, az Nvidia és a JPMorgan Chase is. A program keretében a cég akár 100 millió dollár értékű felhasználható kreditet is nyújt a partnereknek. A projekt neve az üvegesszárnyú lepkére (glasswing butterfly) utal. Ezzel az Anthropic arra a párhuzamra hívja fel a figyelmet, hogy a Mythos a mindenki szeme előtt rejtőző sérülékenységeket is képes feltárni.

A bejelentés napján egyébként az Anthropic Claude és Claude Code szolgáltatásai súlyos üzemzavart szenvedtek. Ez az incidens is jól jelzi a gyorsan növekvő felhasználói bázis kiszolgálásának folyamatos nehézségeit.

Kutatás az AI-ról

A Pénzcentrum és a Miskolci Egyetem közös kutatásra arra a kérdésre keresi a választ, hogy milyen a kapcsolata jelenleg az embereknek a mesterséges intelligenciához, mire használják, mire nem használják, és hogy milyen attitűddel közöelítenek hozzá. Töltsd ki te is a teljesen anonim kutatásunk.