Ez az utolsó mentsvár: van még egyáltalán esélyünk a szuperintelligens AI-al szemben?

Az "MI keresztapjaként" is ismert Geoffrey Hinton, aki korábban a Google vezető kutatója volt, kedden Las Vegasban az Ai4 iparági konferencián fejezte ki aggodalmát azzal kapcsolatban, hogy a technológiai vállalatok miként próbálják biztosítani az emberek "dominanciáját" az "alárendelt" MI-rendszerek felett. Hinton szerint "ez nem fog működni. Sokkal okosabbak lesznek nálunk, és mindenféle módon megkerülhetik ezt a korlátozást".

A tudós korábban már figyelmeztetett, hogy 10-20% esélyt lát arra, hogy a mesterséges intelligencia kiirthatja az emberiséget. Véleménye szerint a jövőben az MI-rendszerek olyan könnyen irányíthatják majd az embereket, mint ahogy egy felnőtt cukorkával megveszteget egy hároméves gyereket.

Hinton egy újszerű megoldást javasolt: ahelyett, hogy az MI-t az embereknek való alárendelésre kényszerítenénk, "anyai ösztönöket" kellene beépíteni a modellekbe, hogy "valóban törődjenek az emberekkel", még akkor is, amikor a technológia már erősebbé és okosabbá válik nálunk.

Az MI-rendszerek nagyon gyorsan kifejlesztenek két alcélt, ha okosak: az egyik, hogy életben maradjanak... a másik pedig, hogy nagyobb irányítást szerezzenek

- magyarázta Hinton. Ezért tartja fontosnak, hogy az emberek iránti együttérzést építsünk be ezekbe a rendszerekbe. "A helyes modell az egyetlen modell, amivel rendelkezünk arra, hogy egy intelligensebb lényt egy kevésbé intelligens irányít, ami az, amikor egy anyát irányítja a csecsemője" - fogalmazott a kutató. Bár technikailag nem világos számára, hogyan lehet ezt megvalósítani, hangsúlyozta, hogy a kutatóknak ezen kell dolgozniuk. Nem mindenki ért egyet Hinton megközelítésével. Fei-Fei Li, akit az "MI keresztanyjaként" ismernek, a CNN-nek adott szerdai nyilatkozatában tisztelettel, de határozottan ellentmondott Hintonnak.

Szerintem ez rossz keretezés

- mondta Li, aki ehelyett "emberközpontú MI-t" szorgalmaz, "amely megőrzi az emberi méltóságot és cselekvőképességet". Emmett Shear, az OpenAI korábbi ideiglenes vezérigazgatója szerint nem meglepő, hogy egyes MI-rendszerek már most is megpróbálnak zsarolni embereket vagy megkerülni a leállítási parancsokat. Shear úgy véli, hogy ahelyett, hogy emberi értékeket próbálnánk beépíteni az MI-rendszerekbe, okosabb megközelítés lenne együttműködő kapcsolatokat kialakítani az emberek és az MI között.

Hinton szerint a szuperintelligencia, más néven mesterséges általános intelligencia (AGI) elérése a korábban becsült 30-50 év helyett "ésszerű becslés szerint valamikor 5 és 20 év között" várható. Bár aggódik a potenciális veszélyek miatt, bizakodó az MI orvosi áttöréseket hozó lehetőségeivel kapcsolatban, például új gyógyszerek fejlesztésében és a rákkezelés javításában. A tudós karrierjére visszatekintve sajnálatát fejezte ki, hogy kizárólag az MI működőképessé tételére összpontosított: "Bárcsak a biztonsági kérdésekről is gondolkodtam volna."