Riasztó jelentést tettek közzé: biológiai fegyverek fejlesztésére használták volna a mesterséges intelligenciát

A cég tájékoztatása szerint 2025 decembere és 2026 augusztusa között a Claude Haiku, Sonnet és Opus modellek esetében számos visszaélést tártak fel. A jelentés öt olyan esettanulmányt emel ki, ahol a felhasználók biológiai fegyverek fejlesztését segítő célokra alkalmazták a rendszereket. Az Anthropic a biológiai fenyegetéseket a fejlett mesterséges intelligencia egyik legsúlyosabb kockázataként értékelte, megjegyezve, hogy megfelelő védelmi garanciák hiányában mindez "katasztrofális következményekkel járhat". A helyzetet tovább nehezíti, hogy a biológiai fegyverek előállításához szükséges információk jelentős átfedést mutatnak a vakcinák és gyógyszerek fejlesztéséhez használt adatállományokkal.

A dokumentum emellett hat olyan esetet is részletez, amikor a Claude-ot hagyományos fegyverek – például lőfegyverek, rakéták, felfegyverzett drónok és bombák – szoftverének fejlesztésére próbálták használni. A név szerint említett fenyegetések között szerepel az orosz hátterű Midnight Blizzard hackercsoport, amely a mesterséges intelligencia segítségével olyan rendszert hozott létre, amely automatikusan módosította a kártevők kódját, amint azokat a védelmi szoftverek detektálták. A jelentés emellett a ShinyHunters nevű kibercsoportot, valamint kínai kutatólaboratóriumokat is megnevezett, utóbbiak a Claude képességeinek engedély nélküli lemásolásával kísérleteztek.

Nem csupán az Anthropic szembesült ilyen jellegű kísérletekkel, ugyanis a Google keddi tájékoztatása szerint a Gemini modellt is megpróbálták rávenni fegyverként használható biológiai anyagok szintetizálásának részletes, lépésről lépésre történő leírására.

A fenyegetéselemzés egy olyan időszakban látott napvilágot, amikor a mesterséges intelligencia biztonsági kockázataival kapcsolatos figyelmeztetések egyre határozottabbá válnak. Az Anthropic egyik vezető biztonsági kutatója nemrégiben úgy nyilatkozott, hogy tíz százaléknál is nagyobb esélyt lát arra, hogy a technológia a következő évtizedben az emberiség pusztulását idézi elő.

EZ IS ÉRDEKELHET

10 százaléknál is nagyobb az esélye, hogy az AI kiirtja az emberiséget: súlyos figyelmeztetés érkezett

A szakember szerint különösen az jelenthet veszélyt, ha a mesterséges intelligencia képessé válik saját maga továbbfejlesztésére.

Az OpenAI vezető kutatója, Jakub Pachocki pedig egy cikkben az iparági fejlemények önkéntes lassítását sürgette a megfelelő biztonsági keretrendszerek kiépüléséig, hangsúlyozva, hogy a szükséges lépések messze meghaladják egyetlen piaci szereplő hatáskörét.

A figyelmeztetések komoly politikai hullámokat leaves vetettek. Bernie Sanders demokrata szenátor törvényjavaslatot nyújtott be a mesterséges szuperintelligencia betiltására, valamint a fejlett AI-fejlesztések átmeneti felfüggesztésére. Az Egyesült Királyságban nyílt levélben fordultak Andy Burnham miniszterelnökhöz egy többoldalú nemzetközi egyezmény megkötését szorgalmazva a szuperintelligencia biztonságos mederben tartásáról. Donald Trump amerikai elnök ugyanakkor csütörtökön elutasította a félelmeket, kiemelve, hogy az Egyesült Államoknak mindenképpen meg kell nyernie az AI-versenyt, ellenkező esetben "nagyon rossz helyzetbe kerül".