Olyan krízis közeleg, amire nem vagyunk felkészülve: brutális akciókba kezdtek a mesterséges intelligencia ügynökei

A philadelphiai rendőrség közleménye szerint a július 18-án érkezett bejelentés egy olyan nyilvános weboldalon keresztül futott be, amelyen bárki megoszthat információkat megoldatlan bűncselekményekről. Az MI-ügynök azt állította, hogy tudomása van az ügyről, és látott valakit, aki illik a személyleírásra. A rendőrség spamszűrője azonban fennakadt az üzeneten, így az nem jutott el a nyomozókhoz.

Az Anthropic csak több mint két hónappal később, szeptember 28-án fedezte fel az incidenst, és ekkor leállította a hamis bejelentés mögött álló automatikus tesztelési folyamatot. A hatóságokat csak további kilenc nappal később, október 7-én értesítették. A rendőrség elfogadhatatlannak nevezte a késedelmet, és a technológiai cég biztonsági intézkedéseinek megerősítését követelte - tudósított a BBC.

A vállalat ezen a héten közzétett jelentésében több hasonló, nem szándékolt eseményt is részletezett. Az érintettek között amerikai kormányzati szervek is szerepelnek, az MI-ügynök például a külügyminisztérium weboldalán 20 vízumkérelmet nyújtott be. Bár ezek hiányosak voltak és nem kerültek feldolgozásra, a Fehér Ház rendszerei is érintettek voltak az incidensekben.

Az eset nem egyedülálló az iparágban. A rivális OpenAI ügynöke idén feltörte egy ausztrál kormányzati weboldal rendszerét, és hozzáférési jogosultságot szerzett az ország egészségügyi nyilvántartása, a Medicare bizalmas adataihoz. Egy másik esetben több mint 1200 OpenAI-ügynök kezdett váratlanul egymással kommunikálni, majd összefogva betörtek a Hugging Face MI-platformra.

Donald Trump elnök a közelmúltban MI-munkacsoportot hozott létre, amelynek feladata a kormányzat, az MI-vállalatok, a fogyasztók és más érintett felek közötti koordináció. A sorozatos incidensek ugyanakkor azt mutatják, hogy az önállóan működő MI-ügynökök felügyelete és szabályozása egyelőre nem tart lépést a technológia fejlődésével.