Rémálommá vált a bevásárlás több üzletben: lopással vádolnak ártatlan embereket egy új technológia miatt

Egyre több panasz érkezik a brit boltokban működő arcfelismerő szoftverek miatt. Az egyik vásárlót például egy Home Bargains üzletből küldték el lopás gyanújával, pedig csupán vitaminokat akart venni. Az eset annyira megviselte a férfit, hogy később már félt bemenni bármilyen boltba. Egy másik alkalommal egy nőt azzal vádoltak meg, hogy nagy mennyiségű húst lopott egy Budgens üzletből, holott a férjével együtt hónapok óta nem is jártak ott. A téves vád okozta stressz olyan súlyos volt, hogy a beszámolók szerint a férj egész testében remegett a szembesítéskor.

A sorozatos incidensek miatt a brit parlamentben külön meghallgatást szerveztek, ahol az ártatlanul megvádolt vásárlók személyesen mondhatták el tapasztalataikat. Az eseményen részt vett Allison Gardner munkáspárti képviselő és a Big Brother Watch nevű jogvédő szervezet is. A történetekből kiderült, hogy egyeseket már a belépéskor feltartóztattak, míg másokat a kasszánál vontak felelősségre. Arra is volt példa, hogy a rendszer nem az érintettet, hanem a mögötte haladó személyt azonosította problémásként.

A botrány középpontjában a Facewatch nevű arcfelismerő technológia áll, amelyet több ezer brit boltban – köztük a Sainsbury's áruházlánc kétszáz üzletében – használnak. A szoftver elemzi a belépők arcát, majd összeveti egy korábban problémásnak ítélt személyeket tartalmazó adatbázissal. A téves találatoknak súlyos következményei vannak, különösen akkor, ha a bolti dolgozók fenntartások nélkül bíznak a gép ítéletében.

A Facewatch visszautasítja, hogy a hibás azonosítás általános jelenség lenne a rendszerüknél. A cég szerint a szoftver naponta több ezer üzletben működik megbízhatóan, a tévesztések pedig ritka kivételeknek számítanak. Kiemelték azt is, hogy miközben a technológia működéséért ők felelnek, a vásárlókkal szembeni fellépés módjáért már az adott üzlet vezetése és személyzete tartozik felelősséggel.

A legnagyobb nehézséget az okozza, hogy a gyanúba keveredett emberek szinte alig tudják tisztázni magukat. Bár a brit adatvédelmi szabályok szerint kikérhetik a róluk tárolt információkat, az eljárás rendkívül lassú, és egyáltalán nem garantálja, hogy az érintetteket törlik a megfigyelési listákról.

A brit adatvédelmi hatóság (ICO) megrázónak nevezte az eseteket, Allison Gardner képviselő pedig jelezte, hogy miniszteri szintre emeli az ügyet. A történtek ismét rávilágítanak arra, milyen komoly veszélyeket rejt, ha a mesterséges intelligencia hibás döntései érdemi emberi kontroll nélkül, közvetlenül avatkoznak be a mindennapokba.