Itt az első fecske: betiltják a chatbotok használatát a 18 éven aluliaknak, borzasztó dolog derült ki az AI-ról

Az Euronews beszámolója szerint a vállalat több, gyermekbiztonsággal kapcsolatos perrel néz szembe, köztük egy olyan anya keresetével, aki szerint a cég chatbotjai öngyilkosságra ösztönözték tinédzser fiát.

A Character Technologies közleménye szerint november 25-től a 18 év alatti felhasználók nem folytathatnak nyílt beszélgetéseket a chatbot karakterekkel, és a rendszer 2 órás használati korlátot vezet be számukra.

A cég lehetővé teszi a felhasználók számára, hogy testreszabható, "élőnek és emberszerűnek tűnő" karaktereket hozzanak létre vagy használjanak különböző tevékenységekhez, például játékhoz vagy állásinterjú-szimulációhoz.

A Character.AI életkor-ellenőrző funkciókat vezet be a 18 év alatti felhasználók azonosítására. Egyre több technológiai platform alkalmaz életkor-ellenőrzést, hogy megakadályozza a gyermekek hozzáférését a számukra nem biztonságos eszközökhöz.

Ezek a módszerek azonban nem tökéletesek, és sok gyermek megtalálja a módját, hogy megkerülje őket. Az arcszkenneléssel például nem mindig lehet megkülönböztetni egy 17 és egy 18 éves személyt. Emellett adatvédelmi aggályokat vet fel a személyazonosító okmányok feltöltésének kérése.

A vállalat közölte, hogy új funkciókon dolgozik gyermekek számára, például AI karakterekkel készített videók, történetek és streamek létrehozásán, valamint egy AI biztonsági laboratórium létrehozásán.

Meetali Jain, a Tech Justice Law Project ügyvezető igazgatója szerint a Character.AI lépése "még mindig sok részletet hagy nyitva". Nem tisztázták, hogyan valósítják meg az életkor-ellenőrzést, hogyan biztosítják a módszerek adatvédelmét, és nem foglalkoztak a fiatal felhasználók hozzáférésének hirtelen letiltásából eredő lehetséges pszichológiai hatásokkal sem.

Jain hozzátette, hogy "ezek a változtatások nem kezelik azokat az alapvető tervezési jellemzőket, amelyek elősegítik az érzelmi függőségeket – nemcsak a gyermekek, hanem a 18 év feletti személyek esetében is".

A Common Sense Media, egy képernyők és digitális média észszerű használatát vizsgáló és támogató csoport közelmúltbeli tanulmánya szerint a tinédzserek több mint 70 százaléka használt már AI társakat, és felük rendszeresen használja őket.