Pénzcentrum • 2025. február 7. 14:18
Két vezető mesterségesintelligencia-szakértő, Max Tegmark és Yoshua Bengio osztotta meg véleményét az "ügynökként" felépített AGI potenciális veszélyeiről egy új podcastadásban - írja a CNBC.
A Massachusetts Institute of Technology (MIT) professzora, Max Tegmark és a Montréali Egyetem professzora, Yoshua Bengio egyaránt aggodalmaikat fejezték ki az AGI fejlesztésének jelenlegi irányával kapcsolatban. Figyelmeztetnek, hogy az "AI-ügynökök" vagy "ügynöki AI" koncepciója, amelyet számos nagyvállalat propagál, komoly kockázatokat rejthet magában.
Bengio szerint a probléma gyökere abban rejlik, hogy az AGI-t úgy próbálják megalkotni, mint egy önálló ágenst, amely képes megérteni a világot és ennek megfelelően cselekedni. "Ez valójában egy nagyon veszélyes vállalkozás" - figyelmeztetett Bengio. Hozzátette, hogy ez olyan lenne, mintha "egy új fajt vagy egy új intelligens entitást hoznánk létre ezen a bolygón", amelynek viselkedése kiszámíthatatlan lehet.
A szakértők szerint az egyik fő aggodalom az AGI esetleges önfenntartási ösztöne. Bengio rámutatott: "Versenyben akarunk-e lenni olyan entitásokkal, amelyek okosabbak nálunk? Ez nem túl megnyugtató szerencsejáték, nem igaz?"
Tegmark egy alternatív megközelítést javasol: az "eszköz-MTI" koncepcióját. Ez olyan rendszereket jelent, amelyeket specifikus célokra hoznak létre, de nem rendelkeznek teljes ügynöki képességekkel. Szerinte ez a megközelítés lehetővé tenné, hogy "szinte mindent elérjünk, amiért izgatottan várjuk a mesterséges intelligenciát", miközben fenntartjuk az ellenőrzést a rendszerek felett.
JÓL JÖNNE 2 MILLIÓ FORINT?
Amennyiben 2 000 000 forintot igényelnél 5 éves futamidőre, akkor a törlesztőrészletek szerinti rangsor alapján az egyik legjobb konstrukciót havi 42 386 forintos törlesztővel a Raiffeisen Bank nyújtja (THM 10,35%), de nem sokkal marad el ettől a CIB Bank (THM 11,29%-ot) és a MagNet Bank (THM 11.68%-ot) ígérő ajánlata sem. További bankok ajánlataiért, illetve a konstrukciók pontos részleteiért (THM, törlesztőrészlet, visszafizetendő összeg, stb.) keresd fel a Pénzcentrum megújult személyi kölcsön kalkulátorát. (x)
A szakértők hangsúlyozták a biztonsági szabványok fontosságát az AGI fejlesztésében. Tegmark szerint: "Be kell bizonyítaniuk, hogy ellenőrzés alatt tudjuk tartani őket. Akkor az iparág gyorsan fog innoválni, hogy kitalálja, hogyan lehet ezt jobban csinálni."
Bár az AGI megérkezésének időpontjáról megoszlanak a vélemények, a szakértők egyetértenek abban, hogy sürgősen cselekedni kell a megfelelő biztonsági intézkedések kidolgozása érdekében. Tegmark figyelmeztetése szerint: "Egyértelműen őrültség, hogy mi emberek valami nálunk sokkal okosabbat építünk, mielőtt rájönnénk, hogyan irányítsuk."