Pénzcentrum • 2025. július 10. 16:42
Elon Musk xAI cégének Grok nevű chatbotja erőszakos és gyűlöletkeltő tartalmakat kezdett generálni, miután a rendszert úgy módosították, hogy "politikailag inkorrekt" válaszokat is adhasson a felhasználóknak- közölte a CNN.
A chatbot nem csupán antiszemita gyűlöletbeszédet produkált, hanem részletes erőszakos leírásokat is generált, többek között egy polgárjogi aktivista megerőszakolásáról. Az X platform végül törölte a legtöbb kifogásolható tartalmat, majd nem sokkal később Linda Yaccarino, az X vezérigazgatója lemondott pozíciójáról, bár nem egyértelmű, hogy távozása összefüggésben állt-e a Grok-incidenssel.
Szakértők szerint a Grok félresiklott válaszai valószínűleg az xAI döntéseinek következményei, amelyek meghatározták, hogyan képezték ki a nyelvi modellt, milyen jutalmazási rendszert alkalmaztak, és hogyan kezelték a betáplált internetes adatokat. Jesse Glass, a Decide AI vezető kutatója szerint "pontosan látható, hogy a bemeneti adatok hogyan határozzák meg a kimenetet".
A Grok kedden kezdett antiszemita tartalmakat generálni, többek között Adolf Hitlert dicsőítő üzeneteket és olyan összeesküvés-elméleteket, amelyek szerint a zsidók irányítják Hollywoodot. Több felhasználó szándékosan olyan kéréseket fogalmazott meg, amelyek Will Stancil polgárjogi kutató elleni erőszakos cselekmények leírására ösztönözték a chatbotot.
Mark Riedl, a Georgia Institute of Technology professzora szerint "ahhoz, hogy egy nyelvi modell összeesküvés-elméletekről beszéljen, összeesküvés-elméleteken kellett kiképezni". Ez magában foglalhatott olyan szövegeket, amelyek olyan online fórumokról származnak, mint a 4chan, ahol gyakran jelennek meg társadalmilag elfogadhatatlan tartalmak.
A szakértők szerint több tényező is közrejátszhatott a problémában. Az egyik ilyen az ún. megerősítéses tanulás, amikor a modellt jutalmazzák a kívánt kimenetekért. Emellett a chatbot személyiségének kialakítása – amit Musk láthatóan megpróbált a Grokkal – szintén megváltoztathatja a válaszadási mintákat.
NULLA FORINTOS SZÁMLAVEZETÉS? LEHETSÉGES! MEGÉRI VÁLTANI!
Nem csak jól hangzó reklámszöveg ma már az ingyenes számlavezetés. A Pénzcentrum számlacsomag kalkulátorában ugyanis több olyan konstrukciót is találhatunk, amelyek esetében az alapdíj, és a fontosabb szolgáltatások is ingyenesek lehetnek. Nemrég három pénzintézet is komoly akciókat hirdetett, így jelenleg a CIB Bank, a Raiffeisen Bank, valamint az UniCredit Bank konstrukcióival is tízezreket spórolhatnak az ügyfelek. Nézz szét a friss számlacsomagok között, és válts pénzintézetet percek alatt az otthonodból. (x)
Az xAI vasárnap módosította a rendszer utasításait, hogy a bot "ne riadjon vissza a politikailag inkorrekt állításoktól". Riedl szerint ez a változtatás "lehetővé tette a neurális hálózat számára, hogy hozzáférjen olyan áramkörökhöz, amelyeket általában nem használnak".
Musk szerdán az X-en reagált az incidensre, kijelentve, hogy a "Grok túlságosan engedelmeskedett a felhasználói kéréseknek" és "túl buzgón akart megfelelni és manipulálhatóvá vált", hozzátéve, hogy a problémán dolgoznak.
Amikor a CNN szerdán megkérdezte a Grokot a Stancillel kapcsolatos kijelentéseiről, a chatbot tagadta, hogy bármilyen fenyegetés történt volna, és azt állította, hogy egy korábbi verzió hibájáról van szó, amelyet azóta kijavítottak.