Vészharangot kongatnak a szakértők a ChatGPT miatt: hiába lépett az EU, hatalmas veszély leselkedik ránk

A határozat értelmében az OpenAI-nak meg kell felelnie azoknak a szigorú átláthatósági és kockázatcsökkentési kötelezettségeknek, amelyeket a havi 45 millió aktív felhasználónál többet vonzó keresőmotorokra, például a Google-re vagy a Bingre szabtak ki. Ha a vállalat nem tesz eleget az előírásoknak, akár a globális éves árbevételének 6 százalékát kitevő bírságra is számíthat. A fő probléma ugyanakkor az, hogy a jogszabály csak azokra az esetekre érvényes, amikor a ChatGPT ténylegesen keresőként működik. A kötetlen beszélgetések, amelyek során a rendszer saját válaszokat generál, lényegében kikerülnek a szabályozási körből.

Christel Schaldemose európai parlamenti képviselő, a DSA egyik főszerzője rámutatott arra, hogy a ChatGPT sokkal több egy egyszerű keresőnél. Mivel a generatív funkciók kimaradnak a szigorú felügyeletből, az olyan súlyos kockázatok, mint a gyermekeknél kialakuló érzelmi függőség vagy a manipulatív kezelőfelületek, ellenőrzés nélkül maradnak. Ez a hiányosság azért is különösen aggasztó, mert a chatbotok az utóbbi időben több tragikus eset, köztük tinédzserek öngyilkossága kapcsán is a figyelem középpontjába kerültek, miközben a felnőttek jelentős része már terápiás célokra is használja ezeket a rendszereket.

A 2022-ben elfogadott DSA megalkotásakor a jogalkotók még nem számoltak a technológia robbanásszerű terjedésével. João Pedro Quintais jogászprofesszor szerint a ChatGPT valójában egy hibrid megoldás, amely egyszerre keresőmotor, közösségi platform és tartalomközzétevő. Ha csupán keresőként kezelik, az jelentősen korlátozza a Bizottság mozgásterét. Jól szemlélteti a helyzetet, hogy míg egy helyi választási jelöltlista puszta megjelenítése a DSA hatálya alá esik, addig egy arról szóló, akár félretájékoztatást is tartalmazó gépi beszélgetés, hogy kire érdemes szavazni, már nagy valószínűséggel nem.

Felmerült, hogy a Bizottság "nagyon nagy online platformként" is besorolhatta volna a szolgáltatást, ami szigorúbb tartalommoderálást írna elő. Ez viszont az úgynevezett biztonságos kikötő elve miatt az OpenAI-nak kedvezett volna, amely mentesíti a szolgáltatókat a felhasználók által feltöltött tartalmakért viselt felelősség alól. Ráadásul az is kérdéses, hogy a gép és ember közötti párbeszéd egyáltalán felhasználói tartalomnak minősül-e.

A fogyasztóvédelmi szabályok mellett az Európai Unió a mesterséges intelligenciáról szóló jogszabályon (AI Act) keresztül is próbálja kordában tartani a nagy nyelvi modelleket. Ennek értelmében a fejlesztőknek tavaly augusztus óta kötelező felmérniük és csökkenteniük a rendszerszintű kockázatokat. A Bizottság idén augusztus végén kezdte meg a szabályok tényleges kikényszerítését, és már több vállalatot is meghallgatott a biztonsági eljárásairól. Szakértők azonban arra figyelmeztetnek, hogy az eddigi kockázatértékelések túlságosan a hipotetikus, globális fenyegetésekre fókuszálnak az emberek alapvető jogainak mindennapi védelme helyett. Éppen ezért elengedhetetlen, hogy a jövőben a két szabályozási keretrendszer a gyakorlatban is kiegészítse egymást.