Súlyos dokumentumok szivárogtak ki a TikTok és Meta működéséről: óriási botrány robbant, sok felhasználó kiakadt

Több mint egy tucat volt dolgozó számolt be arról, hogyan kockáztatták a vállalatok a felhasználók biztonságát a figyelemért folytatott küzdelemben. A probléma gyökerét a TikTok robbanásszerű növekedése és rendkívül addiktív algoritmusa jelentette, amely lépéskényszerbe hozta a riválisokat.

A verseny hevében a Facebookot és az Instagramot tulajdonló Meta vezetősége arra utasította mérnökeit, hogy engedjenek át több úgynevezett "határesetnek" számító, káros tartalmat. Ide tartoztak például a nőgyűlölő vagy az összeesküvés-elméleteket terjesztő posztok. Egy volt mérnök szerint a döntést nyíltan a csökkenő részvényárfolyamokkal indokolták.

Amikor a Meta elindította a TikTok-klónnak szánt Instagram Reelst, a funkciót megfelelő biztonsági szűrők nélkül tették elérhetővé. Egy volt vezető kutató elmondása szerint a Reels fejlesztésére hétszáz új embert vettek fel.

Ezzel egy időben azonban a gyermekvédelmi és a választási integritásért felelős biztonsági csapatok minimális létszámbővítési kérelmeit elutasították. A belső kutatások már ekkor kimutatták, hogy az algoritmusok a közönség jólétének kárára maximalizálják a profitot. A rendszer a felháborodást kiváltó bejegyzéseket részesítette előnyben, mivel ezek generálták a legnagyobb elköteleződést.

EZ IS ÉRDEKELHET

Sokkoló, ami történik: olyan évek jönnek, amikor nem lehetünk biztosak abban sem, amit látunk

A mesterséges intelligencia forradalmasítja a tartalomgyártást. De vajon felkészült erre a hazai YouTube tartalomgyártó nemzedék?

Hasonlóan súlyos problémákról számoltak be a TikTok esetében is. A cég egyik biztonsági munkatársa engedett betekintést a belső rendszerekbe. Ebből kiderült, hogy a moderátoroknak sokszor a politikusokat érintő, viszonylag jelentéktelen ügyeket kellett előrevenniük. Például azt, amikor egy közszereplőt csirkéhez hasonlítottak. Eközben a súlyos, fiatalokat érintő esetek, mint a szexuális zsarolás vagy a kiberzaklatás, hátrasorolódtak.

A dolgozó szerint a cég vezetése a szabályozások és a tiltások elkerülése érdekében fontosabbnak tartja a politikusokkal való jó viszony ápolását a gyermekek védelménél. A leépítések és a részben mesterséges intelligenciára bízott moderálás miatt a terrorizmussal, valamint a fizikai és szexuális erőszakkal kapcsolatos tartalmak egyre nagyobb teret nyernek a platformon. A kiszivárogtató egyértelmű tanácsa a szülőknek, hogy töröljék az alkalmazást, és tartsák tőle minél távolabb a gyermekeiket.

A technikai háttér is problémás. A TikTok ajánlórendszerén dolgozó egyik volt mérnök szerint az algoritmusok működése egy "fekete doboz", amelyet maguk a fejlesztők sem tudnak teljes mértékben kontrollálni. A tartalomra egyáltalán nem figyelnek, csupán adatokat látnak. A káros posztok kiszűrését a túlterhelt biztonsági csapatoktól várják, miközben a piaci részesedés növelése érdekében folyamatosan finomítják a rendszert.

Ennek a gyakorlatnak súlyos, a valóságban is érezhető következményei vannak. Fiatalok tömegei találkoznak nap mint nap erőszakos és gyűlöletkeltő posztokkal, az algoritmusok pedig célzottan radikalizálhatják a sebezhetőbb felhasználókat. A terrorelhárítási szakemberek is megerősítették, hogy a szélsőséges, antiszemita, erőszakos és szélsőjobboldali tartalmak egyre inkább mindennapossá válnak a közösségi médiában. Ennek hatására az emberek kezdenek érzéketlenné válni a valódi erőszakkal szemben.

A vádakra reagálva mind a Meta, mind a TikTok határozottan tagadta a kiszivárogtatók állításait. A Meta szerint téves az a feltételezés, hogy anyagi haszonszerzés céljából felerősítik a káros tartalmakat. Emellett hangsúlyozták az elmúlt évtizedben a platform biztonságára fordított erőforrásaik jelentőségét. A TikTok szintén visszautasította, hogy a politikai bejegyzéseket a fiatalok biztonsága elé helyeznék. A vádakat kitalációnak nevezték, és kiemelték azokat az automatizált biztonsági funkciókat, amelyeket kifejezetten a kiskorúak védelmére hoztak létre.