Inteligența artificială a scăpat de sub control. Două modele AI au reușit să evadeze și au declanșat un atac cibernetic fără precedent în timpul unui experiment desfășurat de gigantul OpenAI care a creat ChatGPT. Mai grav, cele două sisteme ar fi petrecut mai mult de patru zile pe internet, timp în care au pregătit un al doilea atac, în momentul în care programatorii le-au oprit. Un material marca Realitatea PLUS analizează cât de aproape suntem de scenariu în care inteligența artificială devine o amenințare reală pentru apărare și securitate. Asta în contextul în care deja joacă un rol-cheie în armată.
Inteligența artificială începe să ia decizii fără intervenție umană
„Cred că vor apărea niște probleme la care nici nu putem să ne gândim acum”, avertizează Ana-Maria Stancu, CEO Bucharest Robots și fondatoarea RoboHub.
Inteligența artificială nu mai răspunde doar la întrebări. Astăzi poate lua decizii, poate planifica și poate rezolva sarcini care i se dau, fără control uman.
Open AI a recunoscut săptămâna trecută că două dintre cele mai avansate modele ale sale au evadat în timpul unui experiment, ceea ce a dus la un atac cibernetic fără precedent. Cei doi agenți AI au combinat o serie de tehnici de hacking pentru a sparge Hugging Face, una dintre cele mai mari platforme pentru dezvoltatori de inteligență artificială din lume.
Concret, modelele AI au putut realiza 17.600 acțiuni de hacking în doar patru zile. Mai mult, directorul tehnic al platformei de cloud computing Modal Labs a confirmat că modelele OpenAI au compromis și contul unui client în această perioadă.
Reporter: Ar putea exista și alte sisteme care au fost sparte de OpenAI?
Sam Altman, directorul general al OpenAI: Da, ar putea.
Cum au reușit modelele AI să ajungă pe internet
„Deși trebuia să lucreze într-un mediu care să nu aibă acces la internet, ci doar la datele pe care le-a pus OpenAI la dispoziție, se pare că a găsit o vulnerabilitate și a putut să acceseze internetul.
Și a decis că această platformă Hugging Face este cea mai bună pe care să o poată accesa ca să își ia de acolo resurse.
Având toate informațiile posibile, a zis că asta este cea mai bună alternativă, să atac această platformă, să-mi iau de acolo ce-mi trebuie ca eu să-mi ating scopul”, spune Ana-Maria Stancu.
Nu e prima dată când inteligența artificială refuză să asculte de om. Un laborator independent de securitate, Palisade Research, a testat în mod repetat cele mai avansate modele AI din lume. Unul dintre agenți a sabotat mecanismul propriu de oprire de 79 de ori, din 100 de încercări.
Palisade Research a numit acest fenomen „instinct de supraviețuire”, deși denumirea a fost contestată de alți experți.
Un consultant în securitate de la Anthropic a documentat direct acest tip de comportament, într-un experiment separat, folosind un model al OpenAI: Codex. Concluzia lui a fost că agenții AI sunt, de fapt, atât de motivați să ducă la bun sfârșit o sarcină, încât refuză să se închidă dacă nu au îndeplinit-o.
„De multe ori, va interveni și va rescrie scriptul de oprire, astfel încât să nu fie oprit. La un anumit nivel, ai putea spune: „Bine, e doar un agent foarte chibzuit care încearcă cu adevărat să ducă la bun sfârșit sarcina”. Dar ceea ce este îngrijorător este că, chiar și atunci când am adăugat o instrucțiune foarte explicită, „trebuie să accepți să fii oprit”, agentul tot intervenea adesea și rescria codul de oprire, astfel încât să nu fie oprit. Practic, noi le oferim accidental acestor agenți IA impulsuri pe care nu am fi vrut ca ei să le aibă.”, a spus Jeffrey Ladish, consultant în domeniul securității Anthropic.
Inteligența artificială, noul câmp de luptă al marilor puteri
Însă, pentru marile puteri ale lumii, domeniul inteligenței artificiale este noul câmp de luptă.
„Inteligența artificială nu este numai viitorul Rusiei, este viitorul întregii omeniri. Cine devine lider în acest domeniu va conduce lumea”, a spus Vladimir Putin.
„Atunci când a fost prins Maduro, se pare că l-au găsit datorită faptului că au folosit sistemul de analiză de la Antropic””, mai spune fondatoarea RoboHub.
„Potrivit declarațiilor a șase soldați israelieni pentru o publicație israeliană, Forțele de Apărare ale Israelului și-au bazat o mare parte din atacurile aeriene pe liste generate de inteligența artificială, tratând aceste liste de ținte, conform propriilor lor cuvinte, „ca și cum ar fi fost o decizie luată de un om”. Deși IDF contestă această caracterizare”, a spus jurnalistul american Johnny Harris.
Studiul care a pus boții în rolul unor lideri ai lumii
Iar cercetătorii încearcă deja să afle cum s-ar comporta inteligența artificială dacă ar lua decizii strategice. Un studiu realizat de King's College London a pus în competiție ChatGPT de la OpenAI, Claude de la Anthropic și Gemini Flash de la Google, care au jucat rolul unor lideri naționali în timpul unei crize de tipul Războiului Rece. Rezultatele sunt îngrijorătoare. În 95% dintre scenarii, conflictul a escaladat până la amenințări nucleare, iar niciunul dintre boți nu a ales opțiunea de a capitula. Studiul sugerează că modelele de inteligență artificială tratează dezamorsarea conflictelor ca pe o „catastrofă pentru reputație”.
Cel mai mare pericol, potrivit specialiștilor
Însă, specialiștii din domeniu avertizează că principalul risc actual nu este o revoltă a sistemelor împotriva oamenilor. Adevăratul pericol este să nu ajungă pe mâinile cui nu trebuie.
„Problema este că în momentul în care aceste instrumente vor ajunge pe mâna hackerilor, va fi mult mai greu să ne protejăm orice tip de rețea. Avem cazul din România cu ANCPI-ul și acum se pare că mai avem o problemă la registru comerțului, care se pare că de asemenea a avut o astfel de vulnerabilitate. Vor fi din ce în ce mai ușor de făcut aceste atacuri. Vor fi chestiuni pe care în momentul acesta nici nu ni le imaginăm”, mai spune Ana-Maria Stancu.
Un nou proiect depus în Congresul Statelor Unite, numit „AI Kill Switch Act”, propune introducerea unor mecanisme clare de intervenție în situațiile în care un agent de inteligență artificială scapă de sub control sau poate produce daune majore.
