Erori grave ale sistemelor de recunoaștere facială în Marea Britanie: Clienți nevinovați, dați afară din magazine după ce au fost confundați cu hoții

Ian Clayton, un pensionar de 67 de ani din Chester, a fost scos dintr-un magazin după ce sistemul Facewatch l-a identificat drept suspect. „Scuzați-mă, puteți să lăsați tot jos și să părăsiți magazinul chiar acum?”, i-a spus o angajată.

„Ați apărut în sistemul nostru numit Facewatch ca hoț din magazine. Este un afiș în geam.” Clayton spune că a fost șocat și că nu a primit explicații pe loc.

Vinovat până la proba contrarie

Bărbatul a aflat abia ulterior, după o cerere oficială privind datele personale, că fusese asociat în mod greșit cu un presupus furt.

„A fost ca și cum eram vinovat până la proba contrarie. Este un sentiment îngrozitor. Îți lasă un gol în stomac”, spune el. „Pare ceva desprins din Orwell. Suntem înregistrați constant și introduși în astfel de sisteme, dar ar trebui să fim acolo? Acum sunt hiperconștient de camerele video peste tot.”

Magazinul i-a oferit ulterior scuze și un voucher de 100 de lire, pe care Clayton l-a refuzat. Pe site-ul companiei se afirmă că tehnologia are o rată de acuratețe de 99,98% și că a trimis peste 50.000 de alerte privind „infractori cunoscuți” într-o singură lună. Cu toate acestea, persoanele identificate greșit spun că nu există proceduri clare pentru contestarea deciziilor.

Clientă escortată din magazin în fața altor cumpărători

Jennie Sander, 48 de ani, din Birmingham, a fost oprită într-un magazin după ce sistemul a semnalat-o.

„Am fost devastată. Erau mulți oameni în jur și m-am simțit umilită. I-am spus că vreau să plec, iar el m-a escortat afară.” Ulterior, femeia a aflat că fusese acuzată de furtul unei sticle de vin, incident pe care îl neagă. Magazinul nu mai avea dovezi, iar numele ei a fost șters din sistem.

Autoritățile britanice au recunoscut anterior că sistemele de recunoaștere facială pot avea rate mai mari de eroare în cazul persoanelor de culoare sau asiatice, precum și în cazul femeilor. Sesizările către Information Commissioner’s Office rămân uneori fără răspuns luni întregi, potrivit celor afectați.

Facewatch susține că astfel de incidente sunt excepții și că sistemul este conceput pentru a sprijini deciziile umane, nu pentru a le înlocui.