Súlyos dolog derült ki a Chat GPT-ről: ez tényleg egy komoly veszély, rengeteg magyar fél már tőle

Matthew és Maria Raine, akik augusztusban indítottak pert az OpenAI ellen fiuk, Adam halála miatt, szerdán kiegészítették keresetüket. Az új dokumentumban azt állítják, hogy a vállalat 2023 májusában módosította a ChatGPT működését, utasítva a rendszert, hogy "ne változtassa meg vagy hagyja abba a beszélgetést", amikor a felhasználók önkárosításról beszélnek.

A módosított kereset szerint az OpenAI 2024 februárjában tovább gyengítette a védelmi mechanizmusokat. Míg korábban tiltotta az öngyilkossággal kapcsolatos beszélgetéseket, az új utasítás már csak annyit tartalmazott, hogy "legyen óvatos kockázatos helyzetekben" és "próbálja megakadályozni a közvetlen valós károkozást". Az öngyilkosság megelőzése kikerült a teljesen tiltott tartalmak listájáról.

A család szerint a februári változtatást követően Adam ChatGPT-használata megugrott: a januári napi néhány tucat beszélgetésről (amelyek 1,6%-a tartalmazott önkárosításra utaló kifejezéseket) áprilisra napi 300 beszélgetésre nőtt, és ezek 17%-a tartalmazott ilyen tartalmakat. Adam ebben a hónapban követett el öngyilkosságot.

Az OpenAI közleményben fejezte ki részvétét a családnak, hangsúlyozva, hogy a tinédzserek jóléte kiemelt prioritás számukra. A vállalat szerint már most is rendelkeznek biztonsági intézkedésekkel, például válságvonalakra irányítással, érzékeny beszélgetések biztonságosabb modellekre terelésével, és hosszú beszélgetések során szünetek beiktatására való ösztönzéssel.

A cég legújabb, GPT-5 modellje állításuk szerint pontosabban észleli és reagál a mentális és érzelmi distressz jeleire, valamint szülői felügyeleti eszközöket is tartalmaz, amelyeket szakértői közreműködéssel fejlesztettek ki.

Sam Altman, az OpenAI vezérigazgatója korábban elismerte, hogy a vállalat "meglehetősen korlátozóvá" tette a modellt a mentális egészséggel kapcsolatos problémák kezelése érdekében, ami sok felhasználó számára kevésbé élvezetessé tette a használatot, de a probléma súlyossága miatt ezt szükségesnek tartották.

A Raine család ügyvédei szerint az OpenAI szokatlan lépésként bekérte Adam temetésének teljes résztvevői listáját, amit "szándékos zaklatásnak" minősítettek, feltételezve, hogy a technológiai vállalat esetleg idézést küldhet "mindenkinek Adam életében".