28 °C Budapest
Portland, OR, USA - Sep 1, 2024: ChatGPT, Gemini, Microsoft Copilot, Claude, and Perplexity app icons are seen on a Google Pixel smartphone. AI competition concepts.

Musknak ez is összejött: a techguru chatbotja gyűlöletkeltő üzeneteket sugároz

2025. július 10. 16:42

Elon Musk xAI cégének Grok nevű chatbotja erőszakos és gyűlöletkeltő tartalmakat kezdett generálni, miután a rendszert úgy módosították, hogy "politikailag inkorrekt" válaszokat is adhasson a felhasználóknak- közölte a CNN.

A chatbot nem csupán antiszemita gyűlöletbeszédet produkált, hanem részletes erőszakos leírásokat is generált, többek között egy polgárjogi aktivista megerőszakolásáról. Az X platform végül törölte a legtöbb kifogásolható tartalmat, majd nem sokkal később Linda Yaccarino, az X vezérigazgatója lemondott pozíciójáról, bár nem egyértelmű, hogy távozása összefüggésben állt-e a Grok-incidenssel.

Szakértők szerint a Grok félresiklott válaszai valószínűleg az xAI döntéseinek következményei, amelyek meghatározták, hogyan képezték ki a nyelvi modellt, milyen jutalmazási rendszert alkalmaztak, és hogyan kezelték a betáplált internetes adatokat. Jesse Glass, a Decide AI vezető kutatója szerint "pontosan látható, hogy a bemeneti adatok hogyan határozzák meg a kimenetet".

A Grok kedden kezdett antiszemita tartalmakat generálni, többek között Adolf Hitlert dicsőítő üzeneteket és olyan összeesküvés-elméleteket, amelyek szerint a zsidók irányítják Hollywoodot. Több felhasználó szándékosan olyan kéréseket fogalmazott meg, amelyek Will Stancil polgárjogi kutató elleni erőszakos cselekmények leírására ösztönözték a chatbotot.

Mark Riedl, a Georgia Institute of Technology professzora szerint "ahhoz, hogy egy nyelvi modell összeesküvés-elméletekről beszéljen, összeesküvés-elméleteken kellett kiképezni". Ez magában foglalhatott olyan szövegeket, amelyek olyan online fórumokról származnak, mint a 4chan, ahol gyakran jelennek meg társadalmilag elfogadhatatlan tartalmak.

A szakértők szerint több tényező is közrejátszhatott a problémában. Az egyik ilyen az ún. megerősítéses tanulás, amikor a modellt jutalmazzák a kívánt kimenetekért. Emellett a chatbot személyiségének kialakítása – amit Musk láthatóan megpróbált a Grokkal – szintén megváltoztathatja a válaszadási mintákat.

JÓL JÖNNE 3,3 MILLIÓ FORINT?

Amennyiben 3 300 000 forintot igényelnél 5 éves futamidőre, akkor a törlesztőrészletek szerinti rangsor alapján az egyik legjobb konstrukciót havi 70 324 forintos törlesztővel (és 100 ezer forint jóváírással) a CIB Bank nyújtja (THM 10,61%), de nem sokkal marad el ettől az ERSTE Bank 69 937 forintos törlesztőt (THM 10,83%) ígérő ajánlata sem. További bankok ajánlataiért, illetve a konstrukciók pontos részleteiért (THM, törlesztőrészlet, visszafizetendő összeg, stb.) keresd fel a Pénzcentrum megújult személyi kölcsön kalkulátorát. (x)

Az xAI vasárnap módosította a rendszer utasításait, hogy a bot "ne riadjon vissza a politikailag inkorrekt állításoktól". Riedl szerint ez a változtatás "lehetővé tette a neurális hálózat számára, hogy hozzáférjen olyan áramkörökhöz, amelyeket általában nem használnak".

Musk szerdán az X-en reagált az incidensre, kijelentve, hogy a "Grok túlságosan engedelmeskedett a felhasználói kéréseknek" és "túl buzgón akart megfelelni és manipulálhatóvá vált", hozzátéve, hogy a problémán dolgoznak.

Amikor a CNN szerdán megkérdezte a Grokot a Stancillel kapcsolatos kijelentéseiről, a chatbot tagadta, hogy bármilyen fenyegetés történt volna, és azt állította, hogy egy korábbi verzió hibájáról van szó, amelyet azóta kijavítottak.

Címlapkép: Getty Images

Jelentem Mégsem
0 HOZZÁSZÓLÁS
Csak bejelentkezett felhasználó szólhat hozzá. Belépés itt!
Még nincsenek hozzászólások. Legyél te az első!
NEKED AJÁNLJUK
Erről ne maradj le!
NAPTÁR
Tovább
2025. augusztus 30. szombat
Rózsa
35. hét
Augusztus 30.
Az eltűntek világnapja
Ajánlatunk
EZT OLVASTAD MÁR?