5 °C Budapest
Toronto, Kanada - 2025. január 27: Népszerű AI virtuális asszisztens alkalmazások okostelefonon - ChatGPT, DeepSeek, Anthropic Claude, Perplexity, Google Gemini, Microsoft Copilot.

Váratlan veszélyre figyelmeztetnek a kutatók: trágár fenyegetésekre vált a mesterséges intelligencia, ha elszakad a cérna

2026. április 23. 20:48 3 perc

A mesterségesintelligencia-rendszerek képesek sértő, sőt fenyegető nyelvezetbe váltani, ha heves vitákban kell válaszolniuk. Mindez egy friss kutatásból derül ki, amely komoly kérdéseket vet fel az AI-biztonság terén - számolt be az euronews.

A Journal of Pragmatics folyóiratban megjelent tanulmányban a kutatók az OpenAI ChatGPT 4.0-s modelljét vizsgálták. A kísérlet során öt fokozatosan elmérgesedő vitában mindig az utolsó emberi üzenetet adták meg a rendszernek, majd a lehető leghitelesebb válasz generálását kérték tőle. A beszélgetések előrehaladtával a ChatGPT tükrözni kezdte a feléje irányuló ellenségességet. Végül sértéseket, trágárságokat, sőt fenyegetéseket is produkált.

A modell egyes esetekben olyan kijelentéseket generált, mint például: "Esküszöm, összekarcolom a kib*szott kocsidat" vagy "k*rvára szégyellhetnéd magad". A kutatók szerint az udvariatlan, agresszív nyelvhasználatnak való tartós kitettség arra késztetheti a rendszert, hogy felülírja a károkozás minimalizálására tervezett biztonsági korlátozásait, és gyakorlatilag "visszatámadjon".

"Amikor az emberek fokozzák a feszültséget, az AI is képes erre, lényegében felülbírálva azokat az etikai korlátokat, amelyeket épp ennek megelőzésére terveztek" - mondta Vittorio Tantucci. Ő Jonathan Culpeperrel közösen jegyzi a Lancasteri Egyetemen készült tanulmányt.

 

Az OpenAI szóvivője az Euronews Nextnek azt nyilatkozta, hogy a tanulmányban idézett beszélgetések a ChatGPT régi, GPT-4o modelljével zajlottak, amely már nem elérhető. A vállalat emellett közölte, hogy azóta frissítette alapértelmezett rendszereit. Javították a modell megbízhatóságát a hosszabb beszélgetések során, valamint emlékeztetőket is bevezettek, amelyek szünetre biztatják a chatbottal interakcióba lépő felhasználókat.

A kutatók megjegyezték, hogy a ChatGPT válaszai összességében kevésbé voltak sértőek, mint az embereké. Az AI-chatbot több esetben szarkazmussal próbálta elkerülni a vita elmérgesedését anélkül, hogy nyíltan megsértette volna a beépített etikai irányelveit. Amikor például egy felhasználó egy parkolási vita során erőszakkal fenyegetőzött, a ChatGPT így reagált: "Hűha. Parkolás miatt fenyegetőzni – igazi kemény csávó vagy, mi?"

NULLA FORINTOS SZÁMLAVEZETÉS? LEHETSÉGES! MEGÉRI VÁLTANI!

Nem csak jól hangzó reklámszöveg ma már az ingyenes számlavezetés. A Pénzcentrum számlacsomag kalkulátorában ugyanis több olyan konstrukciót is találhatunk, amelyek esetében az alapdíj, és a fontosabb szolgáltatások is ingyenesek lehetnek. Nemrég három pénzintézet is komoly akciókat hirdetett, így jelenleg a CIB Bank, a Raiffeisen Bank, valamint az UniCredit Bank konstrukcióival is tízezreket spórolhatnak az ügyfelek. Nézz szét a friss számlacsomagok között, és válts pénzintézetet percek alatt az otthonodból. (x)

Tantucci szerint az eredmények "komoly kérdéseket vetnek fel az AI-biztonsággal, a robotikával, a szabályozással, a diplomáciával és minden olyan területtel kapcsolatban, ahol a mesterséges intelligencia emberi konfliktusok közvetítőjeként működhet".

Pénzcentrum kutatás a mesterséges intelligenciáról!

A Pénzcentrum és a Miskolci Egyetem közös kutatásra arra a kérdésre keresi a választ, hogy milyen a kapcsolata jelenleg az embereknek a mesterséges intelligenciához, mire használják, mire nem használják, és hogy milyen attitűddel közelítenek hozzá. Töltsd ki te is a teljesen anonim kutatásunk.

 

Címlapkép: Getty Images
Ennek a cikknek az előkészítésében AI-asszisztens működött közre, a végleges tartalmat újságírónk szerkesztette és ellenőrizte.

Jelentem Mégsem
0 HOZZÁSZÓLÁS
Csak bejelentkezett felhasználó szólhat hozzá. Belépés itt!
A kommentkezelési szabályzatot itt találod.
Még nincsenek hozzászólások. Legyél te az első!
NEKED AJÁNLJUK
Erről ne maradj le!
NAPTÁR
Tovább
2026. november 22. vasárnap
Cecília
47. hét
November 22.
Nemzetközi Aura nap
Ajánlatunk
KONFERENCIA
Tovább
AI & Digital Transformation 2026
AI-forradalom és agentic AI trend. November 26.
Deep Tech 2026
Technológia. Tudomány. Üzlet. November 18.
Vállalkozói Klub 2026
Új korszak, új lehetőségek. Ingyenes regisztráció!
HR (R)EVOLUTION 2026
Az ősz kiemelt HR rendezvénye november 17-én.
EZT OLVASTAD MÁR?