Aggasztó hírek az AI kapcsán: ezt mindenkinek tudnia kell, aki használja ezeket a programokat

A brit közszolgálati médium saját weboldaláról származó tartalmakat adott a chatbotoknak, majd kérdéseket tett fel nekik a hírekkel kapcsolatban. Az eredmények szerint a válaszok "jelentős pontatlanságokat" és torzításokat tartalmaztak.

Deborah Turness, a BBC News and Current Affairs vezérigazgatója blogjában fejezte ki aggodalmát a helyzettel kapcsolatban. "A mesterséges intelligencia végtelen lehetőségeket rejt magában, de az eszközöket fejlesztő cégek a tűzzel játszanak" - írta Turness.

A kutatás során a BBC 100 hír összefoglalására kérte fel a négy chatbotot, és minden egyes választ szakértő újságírók értékeltek. Az eredmények szerint a hírekkel kapcsolatos kérdésekre adott mesterségesintelligencia-válaszok 51%-a valamilyen formában jelentős problémákat tartalmazott. Emellett a BBC tartalmát idéző mesterségesintelligencia-válaszok 19%-a ténybeli hibákat, például helytelen tényállításokat, számokat és dátumokat tartalmazott.

A vizsgálat rámutatott, hogy a Microsoft Copilot és a Google Gemini általában több problémát mutatott, mint az OpenAI ChatGPT és a Perplexity AI. A chatbotok nemcsak ténybeli pontatlanságokat tartalmaztak, hanem "nehezen tudtak különbséget tenni a vélemény és a tény között, szerkesztői munkát végeztek, és gyakran elmulasztották a lényeges kontextust" - állapította meg a jelentés.

Turness asszony blogjában új párbeszédet sürgetett az AI-technológiák szolgáltatóival, hogy "partnerségben, közösen dolgozhassunk a megoldásokon". Felszólította a technológiai vállalatokat, hogy "vonják vissza" mesterséges intelligenciával készített hírösszefoglalóikat, ahogy azt az Apple is tette, miután a BBC panaszkodott, hogy az Apple Intelligence félrefordítja a híreket.

Pete Archer, a BBC generatív mesterséges intelligenciáért felelős programigazgatója hangsúlyozta a kiadók felelősségét és az AI-cégek átláthatóságának fontosságát. "A kiadóknak rendelkezniük kell az ellenőrzéssel a tartalmuk felhasználásának módja felett, az AI-cégeknek pedig meg kell mutatniuk, hogy az aszisztensek hogyan dolgozzák fel a híreket, valamint az általuk előállított hibák és pontatlanságok mértékét és terjedelmét" - mondta Archer.

A BBC normális esetben blokkolja tartalmait az AI chatbotok elől, de a tesztek idejére 2024 decemberében megnyitotta weboldalát. A chatbotokat birtokló techcégeket megkeresték kommentárért, de válaszaikat a jelentés nem tartalmazta.