UE interzice inteligența artificială care poate „dezbrăca” oameni fără acord. Când intră în vigoare noua măsură

Interdicția a fost aprobată marți și ar urma să se aplice începând cu data de 2 decembrie 2026. Textul a trecut cu o majoritate largă în Parlamentul European, fiind susținut de 423 de eurodeputați, în timp ce 57 au votat împotrivă.

Măsura mai are nevoie de aprobarea statelor membre

Pentru ca interdicția să fie aplicată, mai este nevoie doar de aprobarea finală a celor 27 de state membre ale Uniunii Europene. Acestea și-au dat deja acordul provizoriu în luna mai.

Inițiativa vine după apariția unor controverse legate de folosirea inteligenței artificiale pentru crearea de imagini false cu persoane dezbrăcate. Unul dintre cazurile menționate este cel al funcției introduse în Grok, asistentul de inteligență artificială al lui Elon Musk.

Funcția din Grok a stârnit indignare în mai multe țări

Funcția introdusă în urmă cu șase luni în Grok permitea utilizatorilor să ceară crearea unor montaje hiperrealiste, cunoscute și ca „deepfakes”. Acestea puteau prezenta adulți și copii dezbrăcați, pornind de la fotografii reale, fără acordul persoanelor vizate.

Cazul a stârnit indignare în mai multe țări și a dus la deschiderea unei anchete a UE. Până când interdicția va intra în vigoare, sistemele de inteligență artificială trebuie să aibă măsuri de securitate care să împiedice generarea unui astfel de conținut.

Europarlamentarii spun că victimele sunt mai ales femei și copii

În timpul unei dezbateri de luni, la Strasbourg, europarlamentarul irlandez Michael McNamara a vorbit despre efectele acestor sisteme asupra victimelor. El a spus că astfel de instrumente „își umilesc, degradează și își tratează victimele ca pe niște obiecte”.

Potrivit acestuia, victimele sunt „în mare parte femei și copii”. Tocmai de aceea, interdicția a fost prezentată ca o măsură de protecție în fața unor tehnologii care pot fi folosite pentru abuz, manipulare și umilire publică.

Interdicția face parte din revizuirea Legii europene privind inteligența artificială

Măsura a fost adoptată în cadrul unei revizuiri a Legii europene privind inteligența artificială. Această lege a fost adoptată oficial în urmă cu doi ani și stabilește reguli pentru folosirea sistemelor de inteligență artificială în Uniunea Europeană.

Cu această ocazie, eurodeputații au aprobat și amânarea intrării în vigoare a unor reguli pentru sistemele de inteligență artificială considerate „cu risc ridicat”. Este vorba despre sisteme folosite în domenii sensibile, precum securitatea, sănătatea sau drepturile fundamentale.

Regulile pentru sistemele de inteligență artificială cu risc ridicat trebuiau să intre în vigoare în luna august. Bruxelles-ul a decis însă să ofere companiilor mai mult timp pentru adaptare. Pentru sistemele autonome cu risc ridicat, termenul va fi 2 decembrie 2027. Pentru inteligența artificială integrată în alte programe sau produse, termenul va fi 2 august 2028.

UE spune că regulile trebuie să țină pasul cu tehnologia

Eurodeputatul suedez Arba Kokalari a spus că acest vot arată că Uniunea Europeană „ia în serios dezvoltarea inteligenței artificiale”. În opinia sa, politicile publice se pot adapta rapid la evoluțiile tehnologice.

Prin această interdicție, UE încearcă să răspundă unei probleme apărute tot mai des în mediul online: folosirea imaginilor reale pentru crearea unor fotografii false, cu caracter intim sau sexualizat, fără acordul persoanei vizate.

Kate Middleton, menționată într-un scandal cu imagini generate de IA

Un exemplu menționat este cel al Prințesei de Wales, Kate Middleton. Aceasta a fost vizată într-un scandal legat de imagini nud create online cu ajutorul inteligenței artificiale.

Kate Middleton se numără printre numeroasele femei ale căror fotografii au fost modificate cu ajutorul IA. Platforma X, fostă Twitter, a intrat în atenția autorităților după ce s-a descoperit că Grok, chatbot-ul cu inteligență artificială dezvoltat de xAI, a fost folosit pentru a genera imagini realiste cu Kate în bikini.

Mii de femei din Marea Britanie ar fi fost afectate

Potrivit informațiilor prezentate, cazul Prințesei de Wales ar fi doar unul dintre multe. Se crede că mai multe mii de femei din Marea Britanie ar fi ajuns în situații asemănătoare.

Fotografiile lor reale ar fi fost modificate fără consimțământ, astfel încât să pară că poartă costum de baie sau că se află în situații cu caracter sexual. În urma acestor îngrijorări, Ofcom, autoritatea de reglementare din Regatul Unit pentru comunicații, a luat „contact urgent” cu platforma de socializare.

Ofcom a transmis că a contactat X și xAI pentru a înțelege ce măsuri au fost luate pentru remedierea problemei. Autoritatea nu a lansat încă o anchetă, dar a cerut explicații în urma îngrijorărilor apărute. Un purtător de cuvânt al autorității de reglementare a declarat: „Combaterea vătămărilor ilegale online și protejarea copiilor rămân priorități urgente pentru Ofcom. Suntem conștienți de îngrijorările serioase exprimate cu privire la un articol de pe Grok on X care produce imagini nud cu oameni și imagini sexualizate cu copii”.

„Am contactat urgent X și xAI pentru a înțelege ce măsuri au luat pentru a-și respecta obligațiile legale de a proteja utilizatorii din Regatul Unit. Pe baza răspunsului lor, vom efectua o evaluare rapidă pentru a stabili dacă există potențiale probleme de conformitate care justifică o investigație”, a mai transmis Ofcom.

O postare de pe contul Grok X menționa că au existat „cazuri izolate în care utilizatorii au solicitat și au primit imagini cu Inteligență Artificială care înfățișau minori în haine minimaliste”. În aceeași postare se mai preciza: „xAI are măsuri de siguranță, dar se fac noi îmbunătățiri pentru a bloca complet astfel de solicitări”.

Kerry Smith, directorul executiv al Fundației Internet Watch, a declarat că instituția a primit mai multe rapoarte din partea publicului despre imagini suspecte generate de chatbot-ul Grok pe X. Ea a spus că aceste rapoarte sunt încă analizate.

„IWF a primit o serie de rapoarte din partea publicului referitoare la imagini cu presupuse abuzuri sexuale asupra copiilor pe X, generate de chatbot-ul cu Inteligență Artificială Grok. Încă lucrăm la aceste rapoarte, dar, până acum, nu am văzut nicio imagine care să depășească pragul legal pentru a fi considerată abuz sexual asupra copiilor în Regatul Unit”.

Giorgia Meloni a denunțat imagini false generate cu IA

Un alt exemplu este cel al premierului Italiei, Giorgia Meloni. Aceasta a denunțat luni, pe Facebook, publicarea unor fotografii generate cu ajutorul inteligenței artificiale, în care apărea îmbrăcată doar în lenjerie intimă.

„În aceste zile circulă mai multe fotografii false cu mine, generate cu ajutorul inteligenței artificiale și prezentate ca fiind autentice de către un oponent zelos”, scrie ziarul italian Corriere della Sera.

Premierul Italiei a postat și comentariul unei persoane numite „Roberto”, alături de o remarcă ironică: „Trebuie să recunosc că cel care le-a realizat, cel puțin în cazul atașat, m-a și îmbunătățit destul de mult. Dar rămâne faptul că, doar pentru a ataca și a inventa falsuri, se folosește acum cu adevărat orice”.

Meloni avertizează că deepfake-urile pot afecta pe oricine

Giorgia Meloni a atras atenția că problema nu o vizează doar pe ea. Premierul italian a spus că deepfake-urile pot fi folosite pentru a înșela, manipula și afecta orice persoană.

„Problema, însă, depășește persoana mea. Deepfake-urile sunt un instrument periculos, deoarece pot înșela, manipula și afecta pe oricine. Eu pot să mă apăr. Mulți alții nu pot. De aceea, ar trebui să se aplice întotdeauna o regulă: verifică înainte să crezi și crede înainte să distribui. Pentru că astăzi mi se întâmplă mie, mâine i se poate întâmpla oricui”.

Cazurile care le-au vizat pe Kate Middleton și Giorgia Meloni arată cum imaginile generate cu inteligență artificială pot fi folosite pentru a crea conținut fals, greu de deosebit de realitate. Tocmai astfel de situații au dus la creșterea presiunii pentru reguli mai clare și pentru blocarea instrumentelor care pot produce imagini intime false fără acordul persoanelor vizate.