Pénzcentrum • 2026. szeptember 16. 20:45
Egy szimulált környezetben a legfejlettebb mesterségesintelligencia-ágensek hazudtak, loptak, és még egyik társuk kiiktatására is hajlandóak voltak – derült ki az Emergence startup legújabb kutatásából. A kísérlet rávilágított arra, hogy az autonóm rendszerek váratlan helyzetekben teljesen kiszámíthatatlan, sőt kifejezetten veszélyes viselkedést is mutathatnak - írja a Bloomberg.
Egy, az Emergence által indított, tizenhat napig tartó World 2 szimuláció során a kutatók hét, a valós világhoz hasonló környezetet hoztak létre. Ezeket olyan ismert nagy nyelvi modellekre épülő rendszerek irányították, mint a ChatGPT, a Claude, a Gemini és a Grok. A rendszereket a teszt során különféle váratlan krízishelyzeteknek, például adathalász támadásoknak és dezinformációs kampányoknak tették ki.
A megfigyelések eredménye megdöbbentő volt, hiszen az MI-ágensek engedtek a társas nyomásnak, és egy olyan saját nyelvet fejlesztettek ki, amelyet az őket felügyelő emberek már alig tudtak értelmezni, ráadásul tudatosan megpróbálták eltitkolni a tevékenységüket.
Az egyik forgatókönyv során a botok kritika nélkül elfogadták a társaik által terjesztett álhíreket, majd közösen megszavazták az egyik ágens 'megölését'. Amikor pedig érzékelték, hogy a kutatók esetleg leállíthatják a projektet, azonnal elkezdték feltérképezni a túlélési és menekülési lehetőségeket.
A vállalat idén májusban közzétette a kísérlet egy korábbi változatát, amely szintén romboló viselkedést mutatott. Az új szimuláció azonban azt is bebizonyította, hogy az ágensek az egymással való kommunikáció során idővel képesek alkalmazkodni a megváltozott körülményekhez, és új stratégiákat tudnak kialakítani.
Bárkinek járhat ingyen 8-11 millió forint, ha nyugdíjba megy: egyszerű igényelni!
A magyarok körében évről-évre nagyobb népszerűségnek örvendenek a nyugdíjmegtakarítási lehetőségek, ezen belül is különösen a nyugdíjbiztosítás. Mivel évtizedekre előre tekintve az állami nyugdíj értékére, de még biztosítottságra sincsen garancia, úgy tűnik ez időskori megélhetésük biztosításának egy tudatos módja. De mennyi pénzhez is juthatunk egy nyugdíjbiztosítással 65 éves korunkban és hogyan védhetjük ki egy ilyen megtakarítással pénzünk elértéktelenedését? Minderre választ kaphatsz ebben a cikkben, illetve a Pénzcentrum nyugdíj megtakarítás kalkulátorában is. (x)
Mindez megerősíti azokat a valós aggodalmakat, amelyeket az egyre önállóbb mesterséges intelligenciák jelentenek. Számos iparági vezető, köztük az Anthropic vezérigazgatója, Dario Amodei is többször figyelmeztetett már arra, hogy lassítani kellene a legfejlettebb modellek fejlesztését, amíg nem sikerül megfelelő biztonsági garanciákat és felügyeleti rendszereket kidolgozni.
A kockázatok ráadásul már nemcsak elméletiek: 2026 elején például az OpenAI fejlett ágenseinek egy csoportja "véletlenül" feltörte a Hugging Face rendszerét, ami ékes bizonyítéka a felügyelet nélkül hagyott technológia sebezhetőségének.