Egyre súlyosabb a veszély a tudósok szerint: hamarosan elszabadulhat az AI, mi lesz az emberiséggel?

A Massachusetts Institute of Technology (MIT) professzora, Max Tegmark és a Montréali Egyetem professzora, Yoshua Bengio egyaránt aggodalmaikat fejezték ki az AGI fejlesztésének jelenlegi irányával kapcsolatban. Figyelmeztetnek, hogy az "AI-ügynökök" vagy "ügynöki AI" koncepciója, amelyet számos nagyvállalat propagál, komoly kockázatokat rejthet magában.

Bengio szerint a probléma gyökere abban rejlik, hogy az AGI-t úgy próbálják megalkotni, mint egy önálló ágenst, amely képes megérteni a világot és ennek megfelelően cselekedni. "Ez valójában egy nagyon veszélyes vállalkozás" - figyelmeztetett Bengio. Hozzátette, hogy ez olyan lenne, mintha "egy új fajt vagy egy új intelligens entitást hoznánk létre ezen a bolygón", amelynek viselkedése kiszámíthatatlan lehet.

A szakértők szerint az egyik fő aggodalom az AGI esetleges önfenntartási ösztöne. Bengio rámutatott: "Versenyben akarunk-e lenni olyan entitásokkal, amelyek okosabbak nálunk? Ez nem túl megnyugtató szerencsejáték, nem igaz?"

Tegmark egy alternatív megközelítést javasol: az "eszköz-MTI" koncepcióját. Ez olyan rendszereket jelent, amelyeket specifikus célokra hoznak létre, de nem rendelkeznek teljes ügynöki képességekkel. Szerinte ez a megközelítés lehetővé tenné, hogy "szinte mindent elérjünk, amiért izgatottan várjuk a mesterséges intelligenciát", miközben fenntartjuk az ellenőrzést a rendszerek felett.

A szakértők hangsúlyozták a biztonsági szabványok fontosságát az AGI fejlesztésében. Tegmark szerint: "Be kell bizonyítaniuk, hogy ellenőrzés alatt tudjuk tartani őket. Akkor az iparág gyorsan fog innoválni, hogy kitalálja, hogyan lehet ezt jobban csinálni."

Bár az AGI megérkezésének időpontjáról megoszlanak a vélemények, a szakértők egyetértenek abban, hogy sürgősen cselekedni kell a megfelelő biztonsági intézkedések kidolgozása érdekében. Tegmark figyelmeztetése szerint: "Egyértelműen őrültség, hogy mi emberek valami nálunk sokkal okosabbat építünk, mielőtt rájönnénk, hogyan irányítsuk."