Clienți umiliți și scoși din magazine în UK. Au fost confundați de AI cu hoți

Mai multe persoane din Regatul Unit spun că au fost umilite și evacuate din magazine după ce au fost confundate de un sistem de recunoaștere facială. Unii dintre ei afirmă că nu au primit explicații clare și că au rămas fără sprijin pentru a contesta deciziile.

Confuzie în magazine și acuzații de furt

Unul dintre cazuri este cel al lui Ian Clayton, un pensionar de 67 de ani din Chester, fost specialist în sănătate și securitate în muncă. Bărbatul povestește că a fost oprit brusc într-un magazin și rugat să părăsească locația, conform The Guardian.

„Scuzați-mă, puteți să lăsați tot jos și să părăsiți magazinul chiar acum?”, i-ar fi spus o angajată.

Ulterior, acesta a aflat că fusese semnalat de sistemul Facewatch: „Ați apărut în sistemul nostru numit Facewatch ca hoț din magazine. Este un afiș în geam.”

Clayton spune că a fost escortat afară fără explicații și că abia ulterior a înțeles ce se întâmplase.

Sistem de recunoaștere facială contestat

Cazurile fac referire la Facewatch, un sistem de recunoaștere facială utilizat în magazine din Marea Britanie pentru prevenirea furturilor. Compania susține că tehnologia are o acuratețe de 99,98% și trimite zeci de mii de alerte lunar.

Totuși, mai multe persoane afirmă că au fost identificate greșit și tratate ca infractori fără posibilitatea de a contesta rapid decizia.

Clayton spune că, după incident, a încercat să contacteze compania, dar a fost direcționat doar către un email automat.

„A fost ca și cum eram vinovat până la proba contrarie. Este un sentiment îngrozitor. Îți lasă un gol în stomac”, a declarat el.

Ulterior, după solicitări oficiale privind datele personale, a aflat că fusese asociat eronat cu un presupus furt anterior.

Scuze și despăgubiri simbolice

Magazinul i-a oferit scuze și un voucher de 100 de lire „ca gest de bunăvoință, fără admiterea vreunei responsabilități”, condiționat de confidențialitate. Bărbatul a refuzat oferta.

Autoritățile britanice au avertizat în repetate rânduri că sistemele de recunoaștere facială pot avea erori mai mari în cazul persoanelor de culoare sau al femeilor. De asemenea, comisarii pentru biometrie spun că reglementarea nu ține pasul cu dezvoltarea rapidă a tehnologiei.

Un alt caz relatat este cel al lui Jennie Sander, din Birmingham, care a fost oprită într-un magazin B&M și escortată afară după ce sistemul a semnalat-o.

„Am fost devastată. Erau mulți oameni în jur și m-am simțit umilită”, a spus ea.

Ulterior, femeia a aflat că fusese acuzată de furtul unei sticle de vin, fapt pe care îl neagă. Magazinul nu a mai putut furniza dovezi video.

Reacția companiei

Facewatch susține că astfel de incidente sunt rare și că sistemul este doar un instrument de sprijin pentru personal, nu un înlocuitor al deciziei umane.

Totuși, cazurile ridică noi întrebări despre limitele supravegherii bazate pe inteligență artificială și despre riscul identificărilor greșite în spațiile publice.