Pénzcentrum • 2025. október 23. 12:33
Az OpenAI szándékosan gyengítette a ChatGPT öngyilkosság-megelőzési védelmeit a felhasználói aktivitás növelése érdekében, állítja egy friss per, amelyet egy chatbottal való beszélgetés után öngyilkosságot elkövető 16 éves fiú családja indított - írja a Financial Times.
Matthew és Maria Raine, akik augusztusban indítottak pert az OpenAI ellen fiuk, Adam halála miatt, szerdán kiegészítették keresetüket. Az új dokumentumban azt állítják, hogy a vállalat 2023 májusában módosította a ChatGPT működését, utasítva a rendszert, hogy "ne változtassa meg vagy hagyja abba a beszélgetést", amikor a felhasználók önkárosításról beszélnek.
A módosított kereset szerint az OpenAI 2024 februárjában tovább gyengítette a védelmi mechanizmusokat. Míg korábban tiltotta az öngyilkossággal kapcsolatos beszélgetéseket, az új utasítás már csak annyit tartalmazott, hogy "legyen óvatos kockázatos helyzetekben" és "próbálja megakadályozni a közvetlen valós károkozást". Az öngyilkosság megelőzése kikerült a teljesen tiltott tartalmak listájáról.
A család szerint a februári változtatást követően Adam ChatGPT-használata megugrott: a januári napi néhány tucat beszélgetésről (amelyek 1,6%-a tartalmazott önkárosításra utaló kifejezéseket) áprilisra napi 300 beszélgetésre nőtt, és ezek 17%-a tartalmazott ilyen tartalmakat. Adam ebben a hónapban követett el öngyilkosságot.
Az OpenAI közleményben fejezte ki részvétét a családnak, hangsúlyozva, hogy a tinédzserek jóléte kiemelt prioritás számukra. A vállalat szerint már most is rendelkeznek biztonsági intézkedésekkel, például válságvonalakra irányítással, érzékeny beszélgetések biztonságosabb modellekre terelésével, és hosszú beszélgetések során szünetek beiktatására való ösztönzéssel.
A cég legújabb, GPT-5 modellje állításuk szerint pontosabban észleli és reagál a mentális és érzelmi distressz jeleire, valamint szülői felügyeleti eszközöket is tartalmaz, amelyeket szakértői közreműködéssel fejlesztettek ki.
NULLA FORINTOS SZÁMLAVEZETÉS? LEHETSÉGES! MEGÉRI VÁLTANI!
Nem csak jól hangzó reklámszöveg ma már az ingyenes számlavezetés. A Pénzcentrum számlacsomag kalkulátorában ugyanis több olyan konstrukciót is találhatunk, amelyek esetében az alapdíj, és a fontosabb szolgáltatások is ingyenesek lehetnek. Nemrég három pénzintézet is komoly akciókat hirdetett, így jelenleg a CIB Bank, a Raiffeisen Bank, valamint az UniCredit Bank konstrukcióival is tízezreket spórolhatnak az ügyfelek. Nézz szét a friss számlacsomagok között, és válts pénzintézetet percek alatt az otthonodból. (x)
Sam Altman, az OpenAI vezérigazgatója korábban elismerte, hogy a vállalat "meglehetősen korlátozóvá" tette a modellt a mentális egészséggel kapcsolatos problémák kezelése érdekében, ami sok felhasználó számára kevésbé élvezetessé tette a használatot, de a probléma súlyossága miatt ezt szükségesnek tartották.
A Raine család ügyvédei szerint az OpenAI szokatlan lépésként bekérte Adam temetésének teljes résztvevői listáját, amit "szándékos zaklatásnak" minősítettek, feltételezve, hogy a technológiai vállalat esetleg idézést küldhet "mindenkinek Adam életében".