Pénzcentrum • 2025. július 10. 16:42
Elon Musk xAI cégének Grok nevű chatbotja erőszakos és gyűlöletkeltő tartalmakat kezdett generálni, miután a rendszert úgy módosították, hogy "politikailag inkorrekt" válaszokat is adhasson a felhasználóknak- közölte a CNN.
A chatbot nem csupán antiszemita gyűlöletbeszédet produkált, hanem részletes erőszakos leírásokat is generált, többek között egy polgárjogi aktivista megerőszakolásáról. Az X platform végül törölte a legtöbb kifogásolható tartalmat, majd nem sokkal később Linda Yaccarino, az X vezérigazgatója lemondott pozíciójáról, bár nem egyértelmű, hogy távozása összefüggésben állt-e a Grok-incidenssel.
Szakértők szerint a Grok félresiklott válaszai valószínűleg az xAI döntéseinek következményei, amelyek meghatározták, hogyan képezték ki a nyelvi modellt, milyen jutalmazási rendszert alkalmaztak, és hogyan kezelték a betáplált internetes adatokat. Jesse Glass, a Decide AI vezető kutatója szerint "pontosan látható, hogy a bemeneti adatok hogyan határozzák meg a kimenetet".
A Grok kedden kezdett antiszemita tartalmakat generálni, többek között Adolf Hitlert dicsőítő üzeneteket és olyan összeesküvés-elméleteket, amelyek szerint a zsidók irányítják Hollywoodot. Több felhasználó szándékosan olyan kéréseket fogalmazott meg, amelyek Will Stancil polgárjogi kutató elleni erőszakos cselekmények leírására ösztönözték a chatbotot.
Mark Riedl, a Georgia Institute of Technology professzora szerint "ahhoz, hogy egy nyelvi modell összeesküvés-elméletekről beszéljen, összeesküvés-elméleteken kellett kiképezni". Ez magában foglalhatott olyan szövegeket, amelyek olyan online fórumokról származnak, mint a 4chan, ahol gyakran jelennek meg társadalmilag elfogadhatatlan tartalmak.
A szakértők szerint több tényező is közrejátszhatott a problémában. Az egyik ilyen az ún. megerősítéses tanulás, amikor a modellt jutalmazzák a kívánt kimenetekért. Emellett a chatbot személyiségének kialakítása – amit Musk láthatóan megpróbált a Grokkal – szintén megváltoztathatja a válaszadási mintákat.
Bárkinek járhat ingyen 8-11 millió forint, ha nyugdíjba megy: egyszerű igényelni!
A magyarok körében évről-évre nagyobb népszerűségnek örvendenek a nyugdíjmegtakarítási lehetőségek, ezen belül is különösen a nyugdíjbiztosítás. Mivel évtizedekre előre tekintve az állami nyugdíj értékére, de még biztosítottságra sincsen garancia, úgy tűnik ez időskori megélhetésük biztosításának egy tudatos módja. De mennyi pénzhez is juthatunk egy nyugdíjbiztosítással 65 éves korunkban és hogyan védhetjük ki egy ilyen megtakarítással pénzünk elértéktelenedését? Minderre választ kaphatsz ebben a cikkben, illetve a Pénzcentrum nyugdíj megtakarítás kalkulátorában is. (x)
Az xAI vasárnap módosította a rendszer utasításait, hogy a bot "ne riadjon vissza a politikailag inkorrekt állításoktól". Riedl szerint ez a változtatás "lehetővé tette a neurális hálózat számára, hogy hozzáférjen olyan áramkörökhöz, amelyeket általában nem használnak".
Musk szerdán az X-en reagált az incidensre, kijelentve, hogy a "Grok túlságosan engedelmeskedett a felhasználói kéréseknek" és "túl buzgón akart megfelelni és manipulálhatóvá vált", hozzátéve, hogy a problémán dolgoznak.
Amikor a CNN szerdán megkérdezte a Grokot a Stancillel kapcsolatos kijelentéseiről, a chatbot tagadta, hogy bármilyen fenyegetés történt volna, és azt állította, hogy egy korábbi verzió hibájáról van szó, amelyet azóta kijavítottak.