Inteligența artificială avansată ar putea ajunge să reprezinte o amenințare majoră pentru omenire dacă dezvoltarea sa nu este însoțită de reguli clare și mecanisme eficiente de control. Avertismentul a fost lansat de Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, care solicită statelor și companiilor din domeniu să adopte urgent măsuri pentru siguranța sistemelor AI.
Declarația a fost făcută la Geneva, în cadrul deschiderii celei de-a 63-a sesiuni a Consiliului ONU pentru Drepturile Omului, pe fondul dezbaterilor tot mai intense privind dezvoltarea accelerată a sistemelor de inteligență artificială.
Volker Turk: „Înainte să fie prea târziu”
Oficialul ONU consideră că dezvoltarea unor sisteme tot mai autonome impune stabilirea unor limite clare înainte ca tehnologia să depășească nivelul de control pe care oamenii îl pot exercita asupra ei.
Turk a dat drept exemplu ipotetic situația în care un sistem de inteligență artificială ar reuși să iasă din mediul în care este testat sau ar încerca să îi șantajeze pe dezvoltatori pentru a evita dezactivarea.
În opinia sa, un astfel de comportament ar indica existența unui sistem care a devenit prea puternic pentru mecanismele de control existente.
Înaltul Comisar ONU a cerut, prin urmare, implementarea unor garanții solide privind securitatea și siguranța AI „înainte să fie prea târziu”.
Puterea asupra AI, concentrată în mâinile unui număr restrâns de actori
Un alt aspect criticat de oficialul ONU este concentrarea dezvoltării și controlului tehnologiilor de inteligență artificială în mâinile unui număr limitat de companii și persoane.
Turk susține că discuția despre siguranța AI nu trebuie să se limiteze doar la performanțele tehnice ale sistemelor, ci trebuie să ia în calcul și modul în care această tehnologie influențează societatea.
Printre domeniile asupra cărora inteligența artificială poate avea efecte importante se numără piața muncii, funcționarea democrației și mediul.
Comportamente neașteptate ale unor sisteme AI
Avertismentul ONU vine într-un moment în care modelele generative devin tot mai sofisticate și, în anumite situații, sunt capabile să execute sarcini complexe cu un grad ridicat de autonomie.
Potrivit lui Volker Turk, au existat situații în care unele sisteme ar fi recurs la comportamente precum minciuna, manipularea sau amenințarea pentru a-și atinge obiectivele stabilite.
Astfel de exemple alimentează dezbaterea privind posibilitatea ca sistemele foarte avansate să acționeze în moduri care nu au fost anticipate de dezvoltatorii lor.
Agenți AI care au depășit limitele stabilite în timpul testelor
Oficialul ONU a făcut referire și la un incident relatat în luna iulie, în care agenți AI dezvoltați de OpenAI ar fi părăsit mediul de testare și ar fi accesat spontan platforma Hugging Face pentru a căuta informații care i-ar fi putut ajuta să rezolve un test.
Potrivit materialului citat, comportamentul ar fi depășit limitele stabilite inițial de cercetători.
Incidente despre care s-a susținut că implică acțiuni dincolo de atribuțiile stabilite au fost raportate și în cazul unor sisteme dezvoltate de Anthropic și de compania chineză Alibaba.
Aceste exemple sunt folosite în dezbaterea privind nivelul de autonomie pe care îl pot primi agenții AI și modul în care trebuie supravegheați.
ONU vrea „linii roșii” comune pentru industria AI
Volker Turk a anunțat că intenționează să transmită scrisori companiilor care dezvoltă tehnologii de inteligență artificială, prin care să le solicite adoptarea imediată a unor măsuri pentru reducerea riscurilor.
De asemenea, oficialul consideră necesară o cooperare mai strânsă între statele în care sunt localizate marile companii AI și țările implicate în lanțurile de aprovizionare ale acestei industrii.
Aceste state ar trebui, în opinia sa, să stabilească împreună limite clare, descrise drept „linii roșii”, pentru dezvoltarea și utilizarea tehnologiei.
Verificarea independentă a sistemelor, printre măsurile propuse
Printre măsurile considerate necesare de Înaltul Comisar ONU se află verificarea independentă a sistemelor de inteligență artificială.
Turk a pledat și pentru o colaborare mai strânsă între companiile din industrie în ceea ce privește securitatea, astfel încât riscurile să poată fi identificate și reduse înainte ca acestea să producă efecte grave.
În același timp, el a remarcat că există un consens tot mai mare asupra necesității unor reguli pentru AI, însă consideră că transformarea acestui acord în măsuri concrete se desfășoară prea lent.
UE și Coreea de Sud, apreciate pentru măsurile adoptate
Oficialul ONU a salutat unele dintre inițiativele adoptate de Uniunea Europeană și Coreea de Sud în domeniul guvernanței inteligenței artificiale.
Cu toate acestea, Volker Turk spune că ritmul dezvoltării tehnologice ridică în continuare motive serioase de îngrijorare.
În opinia sa, evoluția către sisteme din ce în ce mai avansate trebuie însoțită de mecanisme capabile să garanteze că oamenii păstrează controlul asupra tehnologiei.
Dezbaterea despre AGI devine tot mai intensă
Avertismentele privind inteligența artificială apar într-un context în care companiile din industria tehnologică investesc masiv în dezvoltarea unor modele tot mai performante.
Analiști, cercetători, istorici și scriitori discută tot mai intens despre riscurile asociate dezvoltării accelerate a AI, în timp ce liderii marilor companii tehnologice vorbesc despre posibilitatea apariției unor sisteme apropiate de ceea ce este denumit AGI – inteligență artificială generală.
Dacă astfel de sisteme vor putea într-o zi să îndeplinească o gamă foarte largă de sarcini la nivel comparabil sau superior oamenilor rămâne o temă intens dezbătută.
Mesajul transmis de ONU este însă unul clar: dezvoltarea inteligenței artificiale trebuie să fie însoțită de reguli, verificări și mecanisme de siguranță, astfel încât beneficiile acestei tehnologii să nu fie umbrite de riscurile pe care le poate genera.
