Pénzcentrum • 2025. február 7. 14:18
Két vezető mesterségesintelligencia-szakértő, Max Tegmark és Yoshua Bengio osztotta meg véleményét az "ügynökként" felépített AGI potenciális veszélyeiről egy új podcastadásban - írja a CNBC.
A Massachusetts Institute of Technology (MIT) professzora, Max Tegmark és a Montréali Egyetem professzora, Yoshua Bengio egyaránt aggodalmaikat fejezték ki az AGI fejlesztésének jelenlegi irányával kapcsolatban. Figyelmeztetnek, hogy az "AI-ügynökök" vagy "ügynöki AI" koncepciója, amelyet számos nagyvállalat propagál, komoly kockázatokat rejthet magában.
Bengio szerint a probléma gyökere abban rejlik, hogy az AGI-t úgy próbálják megalkotni, mint egy önálló ágenst, amely képes megérteni a világot és ennek megfelelően cselekedni. "Ez valójában egy nagyon veszélyes vállalkozás" - figyelmeztetett Bengio. Hozzátette, hogy ez olyan lenne, mintha "egy új fajt vagy egy új intelligens entitást hoznánk létre ezen a bolygón", amelynek viselkedése kiszámíthatatlan lehet.
A szakértők szerint az egyik fő aggodalom az AGI esetleges önfenntartási ösztöne. Bengio rámutatott: "Versenyben akarunk-e lenni olyan entitásokkal, amelyek okosabbak nálunk? Ez nem túl megnyugtató szerencsejáték, nem igaz?"
Tegmark egy alternatív megközelítést javasol: az "eszköz-MTI" koncepcióját. Ez olyan rendszereket jelent, amelyeket specifikus célokra hoznak létre, de nem rendelkeznek teljes ügynöki képességekkel. Szerinte ez a megközelítés lehetővé tenné, hogy "szinte mindent elérjünk, amiért izgatottan várjuk a mesterséges intelligenciát", miközben fenntartjuk az ellenőrzést a rendszerek felett.
NULLA FORINTOS SZÁMLAVEZETÉS? LEHETSÉGES! MEGÉRI VÁLTANI!
Nem csak jól hangzó reklámszöveg ma már az ingyenes számlavezetés. A Pénzcentrum számlacsomag kalkulátorában ugyanis több olyan konstrukciót is találhatunk, amelyek esetében az alapdíj, és a fontosabb szolgáltatások is ingyenesek lehetnek. Nemrég három pénzintézet is komoly akciókat hirdetett, így jelenleg a CIB Bank, a Raiffeisen Bank, valamint az UniCredit Bank konstrukcióival is tízezreket spórolhatnak az ügyfelek. Nézz szét a friss számlacsomagok között, és válts pénzintézetet percek alatt az otthonodból. (x)
A szakértők hangsúlyozták a biztonsági szabványok fontosságát az AGI fejlesztésében. Tegmark szerint: "Be kell bizonyítaniuk, hogy ellenőrzés alatt tudjuk tartani őket. Akkor az iparág gyorsan fog innoválni, hogy kitalálja, hogyan lehet ezt jobban csinálni."
Bár az AGI megérkezésének időpontjáról megoszlanak a vélemények, a szakértők egyetértenek abban, hogy sürgősen cselekedni kell a megfelelő biztonsági intézkedések kidolgozása érdekében. Tegmark figyelmeztetése szerint: "Egyértelműen őrültség, hogy mi emberek valami nálunk sokkal okosabbat építünk, mielőtt rájönnénk, hogyan irányítsuk."