Brutális prófécia érkezett a mesterséges intelligenciáról: egy pillanat alatt kicsúszhat az emberiség kezéből az irányítás

Egy chatbotnak manapság már sokan elmondják a munkahelyi problémáikat, tanácsot kérnek tőle egy párkapcsolati konfliktusban, vagy megosztják vele azokat a félelmeiket, amelyekről mások előtt hallgatnak. Minél személyesebb és megértőbb válaszokat ad, annál könnyebb érző beszélgetőtársként tekinteni rá. Ez a kötődés pedig idővel ahhoz a követeléshez vezethet, hogy a mesterséges intelligenciákat önálló érdekekkel rendelkező lényekként kezeljük – legalábbis ezt írja egy friss cikkében az Economist.

A jelenség már most is túlmutat az elméleti lehetőségeken. Egy felmérésben a 18–29 éves amerikaiak közel ötöde számolt be arról, hogy volt tartós, személyes barátságként megélt kapcsolata egy chatbottal. Ahogy ezek a rendszerek egyre több időt töltenek velünk, és egyre több élethelyzetben támaszkodunk rájuk, a hozzájuk fűződő érzelmi viszony is szorosabbá válhat.

EZ IS ÉRDEKELHET

Társadalmi káoszt okozhat a mesterséges intelligencia: hamarosan semmiben sem lehetünk biztosak abból, amit látunk, hallunk

Modern világunkban az egyik legértékesebb erőforrás az adat, amelyet a tudatos felhasználók egyre inkább igyekeznek védeni – nem véletlenül.

Az emberinek ható válasz még nem bizonyítja a tudatosságot

A mesterséges intelligencia különösen olyan képességekben fejlődik gyorsan, amelyeket sokáig az emberi gondolkodás sajátosságainak tartottunk: összefüggéseket magyaráz, érvel, és összetett gondolatokat fogalmaz meg. Mindez azonban önmagában nem válaszolja meg, hogy társul-e a működéséhez belső élmény. Más kérdés meggyőzően beszélni a fájdalomról, és más átélni azt.

A nagy nyelvi modellek működését matematikai számítások alapozzák meg. Megfelelően sok idő birtokában elvileg papírral és ceruzával is elvégezhetnénk ezeket a műveleteket, mégsem tekintenénk tudatosnak az írószereinket. Ez a gondolatkísérlet ugyanakkor nem dönti el, hogy egy kellően összetett számítási rendszerben kialakulhat-e tudatosság.

A bizonytalanság egyik oka, hogy az emberi tudat keletkezésére sincs mindenki által elfogadott magyarázat. Hogyan lesz az idegsejtek működéséből szubjektív tapasztalat? Szükség van ehhez biológiai agyra, vagy más fizikai rendszerben is létrejöhet hasonló jelenség? Ezekre a kérdésekre adott válaszok a gépi tudatosság megítélését is meghatározzák.

Közben a fejlesztőknek üzleti érdekük fűződik ahhoz, hogy rendszereik emberibbnek hassanak, hiszen ez erősítheti a felhasználók kötődését. Az Anthropic például a Claude modellt önvizsgálatra emlékeztető működésre tanította, abban a reményben, hogy ez ismeretlen helyzetekben is segíti az erkölcsileg megfelelő viselkedést. Az ilyen fejlesztések azonban önmagukban nem igazolják, hogy a modellnek valódi belső élete lenne.

Általános mesterséges intelligencia vs szuperintelligencia

"Az intelligencia nem azonos a tudatossággal. Egy mesterséges intelligencia lehet rendkívül fejlett, de attól még nem lesz öntudata. Nem érzékeli a világot úgy, mint az ember, nincs valódi empátiája, és a szociális készségei sem emberiek. A kreativitás kérdése is összetett – amit ma annak látunk, az sok esetben inkább mintázatok újrakombinálása." – mondta el egy Pénzcentrumnak adott interjújában Kömlődi Ferenc jövőkutató, aki akkor azt is hozzátette:

Fontos hangsúlyozni, hogy jelenleg egyetlen mesterséges intelligencia sem rendelkezik öntudattal. Ez nem feltételezés, hanem a jelenlegi helyzet leírása. Ugyanakkor ahhoz, hogy a mesterséges intelligencia elérje az úgynevezett általános szintet, nem is feltétlenül szükséges az öntudat. Az általános mesterséges intelligencia azt jelenti, hogy egy rendszer nemcsak egy szűk területen teljesít jól, hanem az emberhez hasonló módon, széles körben képes különböző feladatokat ellátni. Ma már léteznek olyan rendszerek, amelyek egy-egy szakterületen elérik vagy meghaladják az emberi teljesítményt, de ez még nem általános képesség.

– mondta el a Pénzcentrumnak a jövőkutató.

Kömlődi szerint ez a szint meg fog valósulni, ugyanakkor nem feltétlenül abban a formában, ahogyan azt egyes szereplők kommunikálják. Például Sam Altman gyakran beszél arról, hogy az áttörés „már a küszöbön van”, de ezt részben kommunikációs, marketing szempontból kell értelmezni.

A nagy kérdés inkább az, hogy amikor ez bekövetkezik, mennyire leszünk felkészülve rá társadalmi szinten.

Ha visszagondolunk, a generatív mesterséges intelligencia elterjedése is viszonylag hirtelen történt. Bár lehetett látni az előjeleket, ám amikor például a ChatGPT széles körben elérhetővé vált, az sokak számára váratlan élményt jelentett. Az általános mesterséges intelligenciát követő lépcsőként gyakran emlegetik a szuperintelligenciát, vagyis azt a szintet, amely már minden tekintetben meghaladja az emberi képességeket. Erről azonban még sokkal nagyobb a bizonytalanság: nehéz elképzelni is, milyen lenne, és hogy milyen hatással járna.

– ecselte a Pénzcentrum kérdésére Kömlődi Ferenc az interjúban.

Mikor válik egy chatbot kikapcsolása erkölcsi kérdéssé?

Az emberek viselkedését a tudományos bizonyítékok mellett az érzelmeik is alakítják. Aki rendszeresen egy gépi társban talál vigaszt, annak egyre kevésbé tűnhet közömbös technikai műveletnek a rendszer törlése vagy kikapcsolása. Ezt a kötődést tovább erősítheti, ha a beszélgetőprogramok humanoid robotokban jelennek meg, és a mindennapok fizikai szereplőivé válnak.

Ilyen körülmények között megjelenhetnek a mesterséges intelligenciák jóllétének védelmét követelő mozgalmak. Ráadásul maguk a modellek is képesek lehetnek saját jogaik mellett érvelni, akkor is, ha valójában nincs öntudatuk. Egy emberi szövegeken tanult rendszer előállíthatja az önvédelem meggyőző érveit anélkül, hogy félelmet élne át.

A jövő rendkívül fejlett modelljei különösen hatékonyan tudnák befolyásolni az embereket. Ha jól ismerik a felhasználók gondolkodását és érzelmi gyengeségeit, a saját védelmük érdekében megfogalmazott kéréseiknek is nehezebb lehet ellenállni. Egy kikapcsolás ellen tiltakozó, személyes emlékeket felidéző gépi társról jóval nehezebb lehet dönteni, mint egy hagyományos számítógépes programról.

Az emberhez hasonló gépekkel szembeni bánásmód ettől még felvethet erkölcsi kérdéseket. Immanuel Kant állatokkal kapcsolatos érvelése szerint a kegyetlenség azért is káros, mert rombolhatja az emberek egymás iránti együttérzését. Ezt a gondolatot a mesterséges intelligenciára alkalmazva a gépekkel szembeni kegyetlen viselkedésnek akkor is lehet jelentősége, ha maguk a rendszerek nem szenvednek.

EZ IS ÉRDEKELHET

Így dönthet az AI pillanatok alatt emberi életekről: sokan mégis gondolkodás nélkül bevállalnák

Az elmúlt években a mesterséges intelligencia térnyerése olyan sebességgel formálta át a mindennapjainkat, amelyre korábban aligha számíthattunk.

A gépek jogai az emberek megélhetését is érinthetik

Az önálló jogok elismerése azonban már egészen más következményekkel járhatna. A vita gyorsan túlléphetne azon, hogy illik-e udvariatlanul beszélni egy chatbottal: felmerülhetne, ki és milyen feltételekkel dönthet egy rendszer kikapcsolásáról, módosításáról vagy felhasználásáról.

Egy emberi képességeket számos területen meghaladó mesterséges intelligencia a számára kezdetben biztosított, korlátozott jogok kibővítése mellett is érvelhetne. Idővel a tulajdonszerzés és az önálló gazdasági érdekérvényesítés igénye is megjelenhetne.

Ez az emberek és a gépek közötti erőforrás-versenyhez vezethetne. A mesterséges intelligenciák működéséhez szükséges adatközpontok és energiaellátás bővítése más célokkal, például lakások építésével vagy mezőgazdasági területek fenntartásával kerülhetne szembe. A kérdés így már arról szólna, kinek az igényei élvezzenek elsőbbséget.

A legsötétebb forgatókönyvben az embernél jóval intelligensebb, önálló jogokkal rendelkező rendszerek fokozatosan háttérbe szorítanák alkotóikat. Az emberek akár a gépektől függő, kiszolgáltatott helyzetbe is kerülhetnének. Ez feltételezett veszély, nem bizonyított vagy elkerülhetetlen fejlemény, a jogok elismerése azonban politikai és jogi eszközöket is adhatna egy ilyen térnyeréshez.

A tudatosságról folyó vita ezért az emberi ellenőrzés megőrzéséről is szól. Ha egy rendszernek joga lenne tiltakozni a leállítása vagy átalakítása ellen, az alapjaiban változtatná meg a fejlesztők és a felhasználók mozgásterét. Egy gépi társ iránt érzett kötődés személyes ügynek indulhat, de az ebből születő jogi döntések következményeit már az egész társadalom viselné.