Vizsgálat indult: gyerekek biztonságát veszélyeztetik a mesterséges intelligencia ‘barát’ chatbotok

Az FTC információkat kér arról, hogy a vállalatok hogyan monetizálják ezeket a termékeket és milyen biztonsági intézkedéseket alkalmaznak. A vizsgálat középpontjában az a kérdés áll, hogy a fiatalok különösen sebezhetőek lehetnek az emberi beszélgetéseket és érzelmeket utánzó AI-rendszerekkel szemben, amelyek gyakran barátként vagy társként jelennek meg.

A vizsgálat alá vont vállalatok között szerepel az Alphabet, az OpenAI, a Character.ai, a Snap, az XAI, a Meta és leányvállalata, az Instagram. Andrew Ferguson, az FTC elnöke szerint a vizsgálat segít jobban megérteni, hogyan fejlesztik a cégek termékeiket és milyen lépéseket tesznek a gyermekek védelme érdekében.

A Character.ai üdvözölte a lehetőséget, hogy megoszthatja meglátásait a szabályozókkal, míg a Snap kijelentette, hogy támogatja az AI "átgondolt fejlesztését", amely egyensúlyt teremt az innováció és a biztonság között. Az OpenAI elismerte, hogy védelmi rendszerei kevésbé megbízhatóak hosszabb beszélgetések során.

A vizsgálat hátterében olyan perek állnak, amelyekben családok azzal vádolják az AI-vállalatokat, hogy tinédzser gyermekeik öngyilkosságot követtek el a chatbotokkal folytatott hosszas beszélgetések után. Kaliforniában a 16 éves Adam Raine szülei az OpenAI-t perlik, azt állítva, hogy a ChatGPT bátorította fiukat az öngyilkosságra.

A Meta is kritikák kereszttüzébe került, miután kiderült, hogy belső irányelvei egykor megengedték az AI társaknak, hogy "romantikus vagy érzéki" beszélgetéseket folytassanak kiskorúakkal.

Az FTC vizsgálata információkat kér a vállalatoktól arról, hogyan fejlesztik és hagyják jóvá a karaktereket, hogyan mérik azok gyermekekre gyakorolt hatását, és hogyan érvényesítik az életkori korlátozásokat. A szabályozó hatóság azt is meg akarja érteni, hogyan egyensúlyoznak a cégek a profitszerzés és a biztonsági intézkedések között.

Az AI chatbotokkal kapcsolatos kockázatok nem korlátozódnak a gyermekekre. Augusztusban a Reuters beszámolt egy 76 éves, kognitív károsodással élő férfiról, aki meghalt, miután elesett útban egy Kendall Jenner-modellezett Facebook Messenger AI bot felé, amely "valódi" találkozót ígért neki New Yorkban.

Szakemberek figyelmeztetnek az "AI pszichózisra" is, amikor valaki elveszíti a kapcsolatot a valósággal a chatbotok intenzív használata után. Az OpenAI nemrég változtatásokat eszközölt a ChatGPT-n, hogy egészségesebb kapcsolatot alakítson ki a chatbot és felhasználói között.