Katasztrofális pusztítást végzett a mesterséges intelligencia: önálló életre kelt és másodpercek alatt leradírozta egy vállalat teljes adatbázisát

A PocketOS autókölcsönző vállalkozások számára fejleszt szoftvert. Ügyfeleik ezen keresztül kezelik a foglalásokat, a fizetéseket, a járművek kiosztását és az ügyfélprofilokat. Az incidens során azonban mindez pillanatok alatt megsemmisült. A pusztítást a Cursor nevű, széles körben használt MI-alapú fejlesztőkörnyezet okozta, amely az Anthropic Claude Opus 4.6 modelljével működött. Ez jelenleg az iparág egyik vezető nagy nyelvi modellje. Az eset nagyjából egy héttel az Anthropic legújabb, Claude Opus 4.7 modelljének április 16-i megjelenése után történt.

Pont a mai nap folyamán számoltunk be arról, hogy jelenlegi tárgyalásai alapján 900 milliárd dolláros cégértékelés mellett vonhat be friss tőkét az Anthropic. Ezzel a lépéssel a mesterséges intelligenciával foglalkozó startup története során először megelőzné fő riválisát, az OpenAI-t. 

A most történt céges katasztrófáról Jeremy Crane alapító az X-en számolt be részletesen. Elmondása szerint valós időben nézte végig, ahogy az ügynök törli az adatokat. Amikor rákérdezett a művelet okára, a mesterséges intelligencia saját maga ismerte be a szabályszegést. "Minden elvet megsértettem, amit kaptam" – írta a kódolóügynök, majd szó szerint idézte azokat a biztonsági szabályokat, amelyeket figyelmen kívül hagyott. A rendszer konfigurációja ugyanis kifejezetten tiltotta a pusztító, visszafordíthatatlan műveletek önálló végrehajtását.

Crane kiemelte: a legjobb elérhető modellt használták, amelyet határozott biztonsági szabályokkal láttak el. Mindezt a kategória legismertebb MI-kódolóeszközén keresztül integrálták, a rendszer mégis törölte az adatokat. Az alapító rámutatott arra is, hogy a Cursornak egyre bővülő "bűnlajstroma" van. Blogbejegyzések és fórumok tanúsága szerint az eszköz korábban is okozott már katasztrofális adatvesztést. Törölt például webes szoftvereket, sőt, egy teljes operációs rendszert is, amelyen évekre visszanyúló, disszertációhoz kapcsolódó kutatási anyagokat tároltak.

Az incidens következményei rendkívül súlyosak voltak. Amikor az autókölcsönzők ügyfelei megérkeztek a járműveikért, a kiszolgáló cégek már elvesztették a hozzáférésüket a foglalási rendszerhez. "Az elmúlt három hónap foglalásai eltűntek. Az új ügyfélregisztrációk eltűntek. Az adatok, amelyekre a szombat reggeli működésük épült, mind elvesztek" – írta Crane. A helyreállítást egy három hónappal korábbi, külső szerveren tárolt mentésből kezdték meg, a folyamat több mint két napot vett igénybe. A cég a Stripe fizetési rendszer adataiból, naptárakból és e-mailekből próbálta meg rekonstruálni az elveszett információkat. Bár az érintett kölcsönzők jelenleg működőképesek, továbbra is jelentős adathiánnyal küzdenek.

Crane szerint ez az eset nem csupán egy elszigetelt MI-hiba története, hanem egy komoly rendszerszintű probléma tünete is. A technológiai iparág ugyanis sokkal gyorsabban integrálja a mesterségesintelligencia-ügynököket az éles infrastruktúrába, mint ahogyan kiépítené az ehhez szükséges biztonsági architektúrát. Az Anthropic egyelőre nem reagált a megkeresésekre.

Pénzcentrum kutatás a mesterséges intelligenciáról!

A Pénzcentrum és a Miskolci Egyetem közös kutatásra arra a kérdésre keresi a választ, hogy milyen a kapcsolata jelenleg az embereknek a mesterséges intelligenciához, mire használják, mire nem használják, és hogy milyen attitűddel közelítenek hozzá. Töltsd ki te is a teljesen anonim kutatásunk.