Pare o cămașă hawaiiană cu un imprimeu exagerat și aproape imposibil de privit, însă modelul a fost creat cu un scop precis. Designerul german Simon Weckert a conceput Digital Camouflage pentru a face cât mai dificilă identificarea purtătorului de către camerele de supraveghere dotate cu inteligență artificială.
Cămașa care arată ciudat pentru oameni, dar și mai ciudat pentru inteligența artificială
O cămașă de vară cu un imprimeu colorat, abstract și aproape hipnotic a fost proiectată pentru a pune în dificultate sistemele de supraveghere bazate pe inteligență artificială.
Creatorul său, designerul german Simon Weckert, a numit proiectul „Digital Camouflage”. Deși aspectul piesei vestimentare amintește de cele mai extravagante cămăși hawaiiene, desenul nu a fost ales doar pentru efectul vizual.
Modelul a fost conceput astfel încât sistemele AI folosite pentru detectarea oamenilor în imaginile camerelor CCTV să întâmpine dificultăți în identificarea persoanei care poartă cămașa.
Pentru un observator uman, imprimeul este extrem de vizibil. Culorile și formele fac purtătorul să iasă în evidență, însă experimentul lui Weckert pornește de la o diferență fundamentală între modul în care oamenii și sistemele de inteligență artificială interpretează o imagine.
Ce „vede” inteligența artificială atunci când caută un om
Weckert explică faptul că sistemele AI nu învață să recunoască un om în același mod în care o face creierul uman. Algoritmii sunt antrenați pe milioane de imagini și identifică tipare statistice asociate cu prezența unei persoane.
„Sistemele AI sunt alcătuite din mai multe straturi și nu au învățat niciodată ce este un om – au învățat cum arată oamenii din punct de vedere statistic în milioane de imagini de antrenament. În straturile inițiale sunt marginile, contrastele și gradienții de textură; apoi în rețea sunt tipare care țin de părți ale corpului: silueta capului și a umerilor, proporțiile membrelor în raport cu trunchiul, continuitatea conturului corpului în raport cu fundalul. Pentru mașină, o «persoană» este un ansamblu de statistici vizuale – iar tocmai acesta este punctul ei slab”, a explicat Simon Weckert, creatorul cămășii.
Ideea proiectului este că, dacă aceste tipare vizuale pot fi perturbate suficient, sistemul automat de detecție poate avea dificultăți în a stabili că în imagine se află un om.
Astfel, imprimeul nu încearcă să îl facă pe purtător invizibil pentru ochiul uman. Dimpotrivă, aspectul cămășii atrage imediat atenția. Obiectivul este ca imaginea să devină dificil de interpretat pentru algoritmul care analizează cadrul video.
Cămașa a fost creată cu ajutorul inteligenței artificiale
Una dintre cele mai interesante particularități ale proiectului este că modelul menit să deruteze inteligența artificială a fost creat, la rândul său, folosind inteligența artificială.
Weckert a utilizat un proces cunoscut sub numele de „buclă adversarială”, în care modelul cămășii este modificat în mod repetat în funcție de reacția sistemului de detectare.
Designerul a explicat pentru Dezeen Magazine cum a fost dezvoltat imprimeul și de ce intervenția unui sistem automat a fost esențială pentru proces.
„Modelul a fost dezvoltat într-o buclă adversarială împreună cu sistemul de detecție însuși: generezi un candidat, îl arăți detectorului, măsori cât de sigur este în continuare că identifică persoana, ajustezi, repeți – până când nivelul de încredere se prăbușește. Acest lucru a fost necesar deoarece punctele oarbe ale unei mașini nu sunt intuitive pentru oameni; nu poți proiecta împotriva percepției unei mașini doar privind cu ochiul liber, ci numai mașina îți poate spune ce nu reușește să vadă. Există o simetrie poetică aici: aceeași categorie de AI care supraveghează piața i-a arătat cămășii cum să se ascundă”, a declarat Weckert pentru Dezeen Magazine.
Imprimeul a fost ajustat până când sistemul nu a mai recunoscut persoana
Procesul de creare a cămășii nu s-a bazat, așadar, pe alegerea unui model despre care designerul să presupună că ar putea deruta un algoritm.
Modelul a fost testat chiar împotriva sistemului de detecție. Fiecare versiune era analizată, iar rezultatele erau folosite pentru următoarea modificare.
Ținta era reducerea treptată a nivelului de încredere cu care sistemul identifica persoana din imagine. Generarea unui model, testarea acestuia, măsurarea rezultatului și ajustarea imprimeului au fost repetate până când capacitatea detectorului de a identifica omul a scăzut dramatic.
Explicația oferită de Weckert arată și de ce un astfel de design ar fi dificil de conceput doar prin observație umană. Formele și combinațiile de culori care derutează un algoritm nu sunt neapărat cele care par confuze unei persoane.
Pentru ochiul uman, cămașa este extrem de ușor de observat. Pentru sistemele AI testate de designer, însă, efectul este cu totul diferit.
Un experiment construit în jurul diferenței dintre om și algoritm
Digital Camouflage pune astfel față în față două moduri diferite de a interpreta aceeași imagine.
Un om vede imediat o persoană care poartă o cămașă foarte colorată, cu un imprimeu complicat și aproape deranjant de privit. Sistemul AI trebuie însă să proceseze caracteristicile vizuale ale imaginii și să decidă dacă acestea corespund tiparelor pe care le-a asociat în timpul antrenării cu prezența unui om.
Tocmai această diferență a fost exploatată în procesul de proiectare.
În testele realizate de Weckert, modelul final al cămășii a făcut ca sistemele AI analizate să aibă dificultăți considerabile în recunoașterea purtătorului drept persoană.
Rezultatul este una dintre cele mai ironice caracteristici ale proiectului: cu cât cămașa este mai evidentă pentru oameni, cu atât devine mai problematică pentru sistemul artificial care încearcă să identifice persoana aflată în fața camerei.
