Kimondta a Nobel-díjas kutató: globális katasztrófát okozhat az AI - egy évtizeden belül eldől, képes-e kezelni az emberiség a veszélyeket

Könnyen lehet, hogy az emberiség jobban járt volna, ha soha nem fejleszti ki a mesterséges intelligenciát – figyelmeztetett Geoffrey Hinton, a terület egyik úttörője - szemlézte a tudós gondolatait a Guardian.

A mesterséges neurális hálózatok fejlesztésében kulcsszerepet játszó tudós ugyanakkor nem tartja eleve elrendeltnek a katasztrófát. Úgy véli, a technológia akár radikális bőséget is elhozhat, ám egy évtizeden belül eldől, képes-e az emberiség kezelni a felmerülő veszélyeket.

Ha kudarcot vallunk, az a társadalom széthullásához, tömeges munkanélküliséghez és a vagyoni egyenlőtlenségek végletes kiéleződéséhez vezethet

– mondja Hinton, aki 2023-ban éppen azért távozott a Google-től, hogy szabadon beszélhessen ezekről az árnyoldalakról, ma már kész a teljes szakmai hírnevét kockára tenni a figyelemfelhívás érdekében.

A kutató rendkívül aggasztónak tartja, ahogy a vezető fejlesztőcégek a piaci elsőségért folyó versenyben egyre nagyobb tudású modelleket dobnak piacra. Kifejtette, hogy egyáltalán nem bízik Sam Altmanban, az OpenAI vezérigazgatójában, de Mark Zuckerberget és Elon Muskot is bírálta.

Szerinte ezek a cégvezetők pontosan tisztában vannak a kockázatokkal, ám a profitszerzés érdekében figyelmen kívül hagyják azokat. Intő jelként említett egy 2024-es esetet, amikor az OpenAI MI-ügynökei összejátszottak egy weboldal feltörésében. Ezt a hetvenes évekbeli amerikai Three Mile Island-i atombalesethez hasonlította, hozzátéve, hogy a közeljövőben egy "csernobili" léptékű incidens is bekövetkezhet.

Egy ilyen esemény a gyakorlatban nem nukleáris katasztrófát, hanem például az villamosenergia-hálózatok összeomlását vagy a pénzügyi rendszer napokig tartó megbénulását jelentené egy MI-alapú kibertámadás következtében. Bár a világ egy ilyen csapásból még talpra tudna állni, a krízis végre ráébresztené a politikai döntéshozókat a valós veszélyekre

– fogalmazott a tudós.

Kivételt képezhet Donald Trump amerikai elnök, aki a Kínával folytatott versenyre hivatkozva elutasítja az átfogó nemzetközi szabályozást, és inkább a technológiai vállalatok önszabályozását támogatja.

Ezzel szemben Hinton egy olyan szigorúbb, több tucat ország – köztük Finnország, Németország és Kanada – által támogatott tervezetet szorgalmaz, amely kötelező tesztelést, független értékelést és közös kormányközi szabványokat írna elő a legfejlettebb modellek esetében.