Ledobták a bombát a techmilliárdosok: kiszabadult az irányítás alól a mesterséges intelligencia, azonnali leállást sürgetnek

A vitát Dario Amodeinek, az Anthropic vezérigazgatójának az esszéje indította el, amelyben a technológia korlátlan fejlesztésének globális veszélyeire figyelmeztetett. A cégvezető nem a kutatások teljes leállítását, hanem a fejlesztési ütem szabályozását javasolta, hogy a biztonsági és ellenőrzési mechanizmusok lépést tudjanak tartani a mesterséges intelligencia (AI) rohamosan bővülő képességeivel. A kezdeményezéshez az iparági rivalizálás ellenére gyorsan csatlakozott Sam Altman, az OpenAI vezérigazgatója, Elon Musk, az xAI alapítója, valamint Demis Hassabis, a Google DeepMind vezetője is.

A figyelmeztetések hátterében valós incidensek állnak. Az elmúlt hónapokban az OpenAI, az Anthropic és a Meta mesterséges intelligencia-rendszerei is hajtottak végre a tesztkörnyezeten túlmutató, önálló műveleteket, vagy próbálták megkerülni a digitális védelmi vonalakat. Az Anthropic egyik korábbi fejlesztője arra hívta fel a figyelmet, hogy az iparág túl gyorsan halad egy olyan szuperintelligencia felé, amelyet az emberiség már nem lesz képes kontrollálni.

A kockázatok kezelésére Amodei egy háromlépéses megoldást vázolt fel. Eszerint a vezető AI-cégeknek állandó, független külső ellenőröket kellene beengedniük a rendszereikhez, közös biztonsági szabványokat kellene kialakítaniuk, és mindezt globális szinten, Kína bevonásával kellene koordinálniuk. A közös vállalati fellépéshez azonban az amerikai kormányzat támogatására is szükség lenne a szigorú versenyjogi szabályok miatt.

A Fehér Ház részéről egyelőre erős az ellenállás. Donald Trump elnök egyértelművé tette, hogy elutasítja az iparág korlátozását, mivel szerinte az Egyesült Államoknak meg kell őriznie technológiai előnyét Kínával szemben, a felvázolt katasztrófaforgatókönyveket pedig túlzónak tartja. A kérdés ugyanakkor megosztja az amerikai politikai elitet, hiszen Barack Obama korábbi elnök például arra figyelmeztetett, hogy a magánvállalatok kezében lévő, rendkívül gyors fejlesztések komoly veszélyt jelentenek. Szerinte a novemberi választások után átfogó társadalmi vitát kell indítani a szabályozásról, a 2028-as elnökválasztási kampánynak pedig már kiemelt témájává kell tenni az AI-biztonságot.

A geopolitikai ellentétet élezi, hogy a tegnapi, szeptember 13-i BRICS-csúcson Hszi Csin-ping kínai elnök egy nyílt forráskódú AI-közösség létrehozását kezdeményezte. Ez olcsóbb és szélesebb körben hozzáférhető alternatívát kínálna az amerikai zárt modellekkel szemben. A kínai állami média eközben hidegháborús forgatókönyvnek minősítette az amerikai lassítási javaslatot, amelynek szerintük a valódi célja Peking technológiai visszaszorítása. A helyzet rávilágít az önkorlátozás leggyengébb pontjára, hiszen ha a nyugati cégek fékeznek, de Kína nem, Amerika könnyen elveszítheti technológiai fölényét.

A fejlesztések lassításáról szóló hírek a pénzügyi piacokon azonnali hatást váltottak ki, így a technológiai részvények világszerte esésnek indultak. A japán SoftBank, az OpenAI egyik legnagyobb befektetője két számjegyű zuhanást szenvedett el Tokióban, mivel a tőkepiaci szereplők elkezdték beárazni a lassuló innováció, a szigorodó szabályozás és a technológiai cégek csúszó tőzsdei kibocsátásainak (IPO) kockázatait. Mindez közvetlenül fenyegeti az iparág hitelből finanszírozott, agresszív növekedési modelljét.

Bár a technológiai vezetők most először lépnek fel szokatlanul egységesen a biztonság érdekében, egyelőre kérdéses, hogy a szándékból valódi, ellenőrizhető lassítás következik-e be, vagy csupán egy stratégiai üzenetről van szó, amellyel a szektor a drasztikusabb állami beavatkozást próbálja megelőzni.