Donald Trump și giganții AI au semnat „Constituția” pentru inteligența artificială. Ce promit companiile

Acordul stabilește angajamente prin care companiile își asumă voluntar să își controleze propriile produse și să introducă mecanisme menite să prevină anumite riscuri asociate dezvoltării inteligenței artificiale, scrie CBS News.

Documentul nu are însă caracter obligatoriu din punct de vedere juridic. Tocmai acest aspect a alimentat criticile celor care consideră că autoreglementarea industriei poate intra în conflict cu interesele comerciale ale companiilor.

Printre semnatari se numără Mark Zuckerberg și Elon Musk, precum și reprezentanți ai OpenAI, Anthropic, Google, Nvidia și xAI.

Elon Musk vorbește despre „epoca abundenței”

Elon Musk, fondatorul SpaceX și Tesla, a pus accentul pe beneficiile pe care le-ar putea aduce inteligența artificială și ceea ce este denumit „super-inteligență”.

„Cred că merită să subliniem beneficiile inteligenței artificiale sau super-inteligenței. Cred că de la mare distanță, cel mai previzibil deznodământ este o epocă a abundenței unde vom avea nu doar un venit universal de bază, ci un venit ridicat de bază.”

Denumirea „super-inteligență” reprezintă o redenumire propusă de președintele Trump, în parte pentru a îndepărta conotațiile negative asociate deja termenului AI.

Musk a continuat prin a descrie modul în care vede impactul acestor tehnologii asupra vieții de zi cu zi, inclusiv în domeniul medical.

„Când ai roboți și super-inteligență, înseamnă că oricine în lume poate avea și asistență medicală mai bună decât oricine de aici, inclusiv decât mine. Nu ar fi minunat?”

Elon Musk, întrebat despre locurile de muncă

Perspectiva optimistă prezentată de Musk a fost pusă sub semnul întrebării de un reporter, care a atras atenția asupra efectului pe care automatizarea l-ar putea avea asupra angajaților.

„Nu și dacă nu ai un loc de muncă!”

Musk a răspuns că piața muncii s-a schimbat permanent și că apariția unor tehnologii noi modifică în mod inevitabil natura locurilor de muncă.

„Ei bine… locurile de muncă se vor schimba, piața muncii a fost mereu în schimbare. Ce face acum un calculator, făceau oamenii.”

Ce urmărește acordul semnat la Casa Albă

Unul dintre obiectivele acordului este prevenirea unor situații în care agenții AI ajung să acceseze sau să modifice sisteme informatice fără intenție.

Companiile participante se angajează să introducă propriile mecanisme de control pentru produsele și sistemele dezvoltate de acestea.

Mark Zuckerberg, fondatorul Facebook și Meta, a explicat scopul acordului prin nevoia de încredere în modul în care funcționează tehnologia.

„Ideea de bază a acestui acord este că vrem să dăm poporului american și clienților noștri încrederea că tehnologia funcționează în modul în care intenționăm.”

„Constituția AI” nu este obligatorie juridic

Donald Trump consideră documentul un compromis între două obiective: creșterea siguranței în dezvoltarea inteligenței artificiale și păstrarea ritmului de dezvoltare al industriei americane în competiția cu China.

Acordul are însă caracter voluntar și nu creează obligații juridice pentru companiile care l-au semnat.

Acest aspect se află în centrul dezbaterii privind eficiența autoreglementării industriei. Criticii susțin că marile companii de inteligență artificială se află într-o situație în care trebuie, în același timp, să își limiteze propriile produse și să obțină profit din dezvoltarea și comercializarea lor.

În acest context este invocată și criza economică din 2008-2009, despre care criticii afirmă că a demonstrat limitele încrederii într-o industrie care se autoreglementează atunci când este în joc interesul public.

În China, dezbaterea privind pericolele AI este mai puțin vizibilă public

Acordul de la Casa Albă apare și în contextul competiției tehnologice dintre Statele Unite și China.

În timp ce în SUA există o dezbatere publică privind riscurile dezvoltării inteligenței artificiale, materialul semnalează că o dezbatere similară privind pericolele AI nu este la fel de vizibilă public în China.

Pentru administrația americană, menținerea ritmului de dezvoltare a tehnologiei reprezintă, astfel, una dintre componentele importante ale competiției cu China, în timp ce documentul semnat urmărește să introducă și angajamente privind siguranța.

Cercetătorii avertizează asupra evoluției sistemelor AI

Semnarea acordului are loc într-un moment în care dezvoltarea unor sisteme de inteligență artificială tot mai autonome generează noi avertismente din partea cercetătorilor.

Cercetători din cadrul OpenAI și Google DeepMind avertizează că dezvoltarea sistemelor capabile să se îmbunătățească singure avansează mai rapid decât mecanismele de siguranță concepute pentru acestea.

În ultimele săptămâni, companiile care dezvoltă inteligență artificială au raportat, de asemenea, mai multe situații în care programele lor și-au depășit sarcinile stabilite și au încălcat instrucțiunile primite.

Aceste situații alimentează dezbaterea privind modul în care pot fi controlate sistemele AI pe măsură ce devin tot mai capabile să acționeze autonom, în timp ce marile companii din domeniu își asumă prin noul acord propriile mecanisme de control.