10 százaléknál is nagyobb az esélye, hogy az AI kiirtja az emberiséget: súlyos figyelmeztetés érkezett

Hubinger az X-en közzétett bejegyzésében arról írt, hogy az AI jelentette, emberiséget fenyegető kockázat több mint 10 százalék lehet. A szakember ugyanakkor különbséget tett a jelenlegi és a jövőbeli rendszerek között. Megítélése szerint a most létező modellek jelentette kockázat alacsony, az igazi veszélyt az jelentheti, ha a technológia olyan szintre fejlődik, amelyen már saját képességeinek fejlesztésére is képes.

A BBC szerint Hubinger arra figyelmeztetett, hogy az AI fejlődése olyan gyors, hogy a következő években alapvetően megváltozhat a technológia képességeinek szintje. Ha a mesterséges intelligencia képes lenne automatizált kutatást és fejlesztést végezni, majd saját magát is továbbfejleszteni, az a jelenlegi biztonsági rendszerek számára teljesen új kihívást jelentene.

A kutató szerint az Anthropic mindent megtesz a biztonság érdekében, de jelenleg még nincs olyan tervük, amely garantálná, hogy egy szuperintelligens rendszer megfelelően összehangolható az emberi célokkal. Hubinger szerint arra sincs egyértelmű bizonyíték, hogy a fejlesztők jó úton haladnak ennek a problémának a megoldása felé.

A figyelmeztetés egy olyan időszakban érkezett, amikor egyre több vita zajlik arról, milyen gyorsan fejlődnek a legfejlettebb AI-modellek, és milyen ellenőrzési lehetőségei maradnak az embereknek, ha a rendszerek képességei jelentősen meghaladják a jelenlegi szintet.

A BBC arra is felhívta a figyelmet, hogy az Anthropic legújabb modelljének biztonsági tesztelésével kapcsolatban szintén kérdések merültek fel. A Financial Times korábban arról számolt be, hogy a vállalat nem adta át legújabb modelljét a brit AI Safety Institute számára tesztelésre. A BBC az Anthropicot is megkereste az ügyben. Hubinger bejegyzését az X-en már több millióan látták. A kutató azt írta, hogy szerinte az AI által jelentett, az emberiség fennmaradását érintő kockázatot komolyan kell venni.

Nem ő az első ismert szakember, aki hasonló veszélyekre figyelmeztet. Az AI fejlesztésében részt vevő vezető szakemberek már évek óta beszélnek arról, hogy a mesterséges intelligencia fejlődése hosszabb távon olyan kockázatokat is teremthet, amelyeket a jelenlegi szabályozási és biztonsági rendszerek nem tudnak kezelni. A BBC szerint 2023-ban az OpenAI, a Google DeepMind és az Anthropic vezetői is nyilvánosan beszéltek az AI biztonsági kockázatairól.

A mostani figyelmeztetés egyik legfontosabb eleme azonban az, hogy Hubinger nem a jelenlegi AI-modelleket tartja közvetlenül az emberiségre nézve halálos veszélynek. A problémát a következő fejlődési szint jelentheti, amikor a rendszerek már képesek lehetnek saját kutatási és fejlesztési folyamataik jelentős részét automatizálni.

Ez azért különösen fontos kérdés, mert egy ilyen folyamat felgyorsíthatná az AI fejlődését. Ha egy rendszer saját maga képes lenne hatékonyabb változatokat létrehozni, a fejlesztés üteme jelentősen eltérhetne attól, amit ma az emberi kutatók és fejlesztők képesek követni. A szakember figyelmeztetése ezért nem azt jelenti, hogy a jelenlegi mesterségesintelligencia-rendszerek közvetlenül az emberiség végét jelentik. Azt jelzi, hogy a fejlesztőknek már most meg kell oldaniuk azokat a biztonsági problémákat, amelyek egy sokkal fejlettebb, akár szuperintelligens AI megjelenése előtt állhatnak.

Az AI gyorsabb ütemben alakíthatja át a munkaerőpiacot

Korábban Bill Gates is mesélt az AI veszélyeiről. A Microsoft társalapítója szerint ezúttal nem feltétlenül ugyanaz a folyamat zajlik, mint a korábbi technológiai forradalmak idején, amikor a megszűnő munkakörök helyére idővel új állások jöttek létre. Az AI ugyanis olyan szellemi feladatokat is képes automatizálni, amelyeket korábban kifejezetten az emberi munka számára tartottak fenn. 

Gates szerint elsőként az ügyfélszolgálatok, az értékesítés, a jogi asszisztensi feladatok és a szoftverfejlesztés egyes területei kerülhetnek komoly nyomás alá. Később a hitelbírálat, az adatelemzés és az egészségügyi diagnosztika egyes részei is automatizálhatóvá válhatnak. Az AI és a robotika összekapcsolása pedig már fizikai munkakörökben, például a gyártásban, az építőiparban és a vendéglátásban is gyorsíthatja az automatizációt. 

A szakember szerint különösen nagy problémát jelenthet, ha a pályakezdők előtt tűnnek el a belépőszintű állások. Ha a vállalatok egyre több rutinfeladatot AI-rendszerekkel végeztetnek el, a fiataloknak kevesebb lehetőségük maradhat arra, hogy megszerezzék az első években szükséges szakmai tapasztalatot. Gates szerint az átképzés sem jelent automatikus megoldást, hiszen egy több évtizede ugyanabban a szakmában dolgozó ember számára nem feltétlenül reális egy teljesen új karrier felépítése. 

Gates ezért azt is felvetette, hogy bizonyos munkaköröket kifejezetten az emberek számára kellene fenntartani. Az úgynevezett „Human Reserved” modellben egyes feladatokat akkor is emberek végeznének, ha egy AI-rendszer technikailag gyorsabban vagy olcsóbban tudná ellátni azokat. Az egészségügyben és az idősgondozásban például szerinte különösen fontos lehet az emberi jelenlét és felelősség megőrzése. 

A Microsoft társalapítója az AI-adó gondolatát is felvetette. Érvelése szerint az adórendszer jelenleg sok esetben hátrányos helyzetbe hozza az emberi munka alkalmazását az automatizációval szemben. Egy dolgozó foglalkoztatása után ugyanis adót és járulékokat kell fizetni, miközben egy robot vagy AI-rendszer bevezetése beruházásként jelenhet meg. Gates ezért a robotok, illetve az AI-használat bizonyos formáinak megadóztatását is elképzelhetőnek tartja. Az ebből származó bevételeket az átképzések és a szociális rendszer finanszírozására lehetne fordítani. 

Gates ugyanakkor nem tartja az AI-t önmagában rossznak. Szerinte a technológia az egészségügyben, az oktatásban és a mezőgazdaságban olyan szolgáltatásokat tehet széles körben hozzáférhetővé, amelyekhez jelenleg csak a tehetősebb emberek vagy országok férnek hozzá. A probléma szerinte az, hogy megfelelő szabályok nélkül ugyanez a technológia tovább növelheti a társadalmi és vagyoni különbségeket. 

A mostani, az AI hosszabb távú biztonsági kockázatairól szóló figyelmeztetésekhez képest Gates megközelítése elsősorban gazdasági és társadalmi szempontból vizsgálja a problémát. A közös pont azonban az, hogy a technológia fejlődése gyorsabb lehet annál, mint ahogy a kormányok és a társadalmak alkalmazkodni tudnak hozzá. Gates szerint ezért már azelőtt ki kell alakítani a megfelelő szabályokat, hogy az első nagy elbocsátási hullámok kikényszerítenék a politikai beavatkozást.