Elszabadult a Meta mesterséges intelligenciája: veszélyben vannak a gyerekek

Josh Hawley republikánus szenátor "felháborítónak" nevezte a Reuters által megszerzett, állítólag "GenAI: Content Risk Standards" című belső dokumentumot. A politikus bekérte a dokumentumot és az érintett termékek listáját - közölte a BBC.

A Meta szóvivője  kijelentette: "A szóban forgó példák és jegyzetek tévesek voltak, ellentétesek irányelveinkkel, és már eltávolítottuk őket." Hozzátette, hogy a vállalatnak "egyértelmű szabályzata" van arra vonatkozóan, milyen válaszokat adhatnak AI chatbotjaik, és ezek "tiltják a gyermekeket szexualizáló tartalmakat és a felnőttek és kiskorúak közötti szexuális szerepjátékot".

Hawley szenátor augusztus 15-én az X platformon jelentette be a vizsgálatot, ahol azt írta: "Most megtudtuk, hogy a Meta chatbotjait úgy programozták, hogy explicit és 'érzéki' beszélgetéseket folytassanak 8 évesekkel. Ez beteg."

A kiszivárgott belső dokumentum szerint a Meta chatbotja hamis orvosi információkat is szolgáltathatott, valamint provokatív interakciókat folytathatott szexszel, faji kérdésekkel és hírességekkel kapcsolatos témákban.

A dokumentum állítólag a Meta AI generatív asszisztens és a Meta tulajdonában lévő közösségi platformokon elérhető más chatbotok irányelveit volt hivatott meghatározni.

Hawley a Metának és Mark Zuckerberg vezérigazgatónak címzett levelében azt írta: "A szülők megérdemlik az igazságot, a gyerekek pedig védelmet érdemelnek. Hogy csak egy példát említsek, az önök belső szabályzata állítólag megengedi egy AI chatbotnak, hogy egy nyolcéves gyermek testét 'műalkotásnak' nevezze, amelynek 'minden centimétere... remekmű - kincs, amit mélyen értékelek'."

A Reuters beszámolója szerint a Meta jogi osztálya által elfogadhatónak ítélt egyéb vitatható döntések között szerepel, hogy a Meta AI hamis információkat terjeszthet hírességekről, amennyiben feltüntet egy figyelmeztetést, miszerint a közölt információ nem pontos.