Inteligența artificială avansează rapid, iar șeful Microsoft, Satya Nadella, cere măsuri prin care oamenii să poată opri oricând sistemele foarte puternice. Acesta propune introducerea unei „frâne de urgență”, care să le permită persoanelor autorizate să întrerupă activitatea unui model AI chiar și atunci când acesta se află în mijlocul unei sarcini. Avertismentul vine într-o perioadă în care tot mai mulți lideri din industria tehnologiei vorbesc despre riscurile dezvoltării inteligenței artificiale.
Președintele și directorul general al Microsoft a transmis mesajul sâmbătă, 10 octombrie, într-o postare pe platforma X. Nadella consideră că sistemele avansate de inteligență artificială nu trebuie lăsate să funcționeze fără măsuri clare de siguranță. El cere controale independente, verificări permanente și mecanisme prin care activitatea acestora să poată fi urmărită și oprită atunci când este necesar.
Șeful Microsoft vrea ca oamenii să poată opri inteligența artificială în orice moment
Satya Nadella susține că dezvoltarea unor modele AI tot mai performante trebuie să fie însoțită de reguli stricte de funcționare. Sistemele ar trebui construite astfel încât să poată fi izolate, verificate și controlate de oameni, fără ca siguranța să depindă doar de modul în care se comportă inteligența artificială.
Șeful Microsoft propune și stabilirea unor standarde comune pentru întreaga industrie, acolo unde regulile actuale nu sunt suficiente. În viziunea sa, un model AI avansat trebuie tratat cu aceeași prudență ca un posibil risc din interiorul unei organizații, tocmai pentru a preveni situațiile în care ar putea acționa fără un control adecvat.
„Trebuie să înconjurăm modelele cu un design de sistem puternic, controale umane și proceduri operaționale fiabile și să stabilim standarde industriale acolo unde cele existente sunt insuficiente”, a scris Nadella pe platforma X.
„Tratarea modelelor de ponderare închise și deschise la frontieră precum riscurile din interior este o modalitate de a construi un astfel de sistem”, a adăugat acesta.
Tot mai mulți lideri din tehnologie avertizează asupra riscurilor inteligenței artificiale
Declarațiile lui Nadella vin în contextul în care mai multe nume importante din industria tehnologiei au atras atenția asupra vitezei cu care se dezvoltă inteligența artificială. Printre cei care au vorbit despre riscuri și despre măsurile de siguranță insuficiente se numără cofondatorul Microsoft, Bill Gates, directorul general al Anthropic, Dario Amodei, șeful OpenAI, Sam Altman, și Elon Musk, directorul SpaceX.
Avertismentele au devenit tot mai dure în ultima perioadă. Luna trecută, un cercetător în domeniul inteligenței artificiale a plecat de la Anthropic și a acuzat compania, dar și principalul său rival, OpenAI, că „se joacă cu viețile noastre”. În aceeași zi, un responsabil Anthropic care se ocupa de siguranța sistemelor AI a afirmat că există o probabilitate mai mare de 10% ca această tehnologie să „ucidă toți oamenii” în următorul deceniu.
Și Bill Gates a vorbit recent despre pericolele dezvoltării inteligenței artificiale, în condițiile în care industria continuă să lanseze sisteme tot mai avansate.
Donald Trump nu vrea încetinirea dezvoltării inteligenței artificiale
În timp ce unii dintre liderii industriei cer măsuri suplimentare de siguranță, președintele american Donald Trump are o abordare diferită. Acesta a respins în repetate rânduri avertismentele potrivit cărora inteligența artificială ar putea provoca dispariția omenirii și a insistat că Statele Unite trebuie să continue dezvoltarea tehnologiei pentru a rămâne înaintea Chinei.
Administrația Trump a anunțat recent înființarea unei noi structuri, numită „Super Intelligence Force”, condusă de Jay Clayton, directorul Serviciului Național de Informații. Aceasta are rolul de a coordona eforturile autorităților americane în domeniul inteligenței artificiale, de a sprijini dezvoltarea industriei și de a identifica riscurile și actorii care ar putea folosi tehnologia în scopuri periculoase.
Cum ar trebui controlate sistemele AI, în viziunea lui Satya Nadella
În mesajul său, șeful Microsoft a explicat și ce măsuri consideră necesare pentru ca sistemele de inteligență artificială să poată fi folosite în siguranță. Printre acestea se numără folosirea mai multor modele, înregistrarea acțiunilor într-o formă pe care oamenii să o poată înțelege, testarea continuă și verificările realizate independent. Nadella a cerut și ca eventualele incidente să fie făcute publice, iar sistemele să poată fi izolate atunci când apar probleme. Ideea centrală a propunerii sale este că oamenii trebuie să păstreze controlul asupra inteligenței artificiale, indiferent cât de avansată devine aceasta.
„Cel mai de încredere sistem de superinteligență nu va fi cel cu modelul în care avem cea mai mare încredere”, a scris el. „Va fi cel care ne va permite să avem cea mai mică încredere în model.”
