Geoffrey Hinton, laureat al Premiului Nobel și unul dintre pionierii inteligenței artificiale, cere guvernului britanic să oprească dezvoltarea sistemelor AI extrem de puternice. El avertizează că pierderea controlului asupra superinteligenței ar putea avea consecințe extreme pentru omenire.
Cercetătorul îi solicită guvernului britanic să oprească dezvoltarea sistemelor de tip „superinteligență” până când comunitatea științifică va avea metode clare prin care acestea să poată fi controlate.
Hinton consideră că pierderea controlului asupra unei astfel de tehnologii ar putea avea consecințe catastrofale pentru societate și chiar ar putea pune în pericol existența umană.
„Am fi foarte imprudenți să dezvoltăm superinteligența acum”
Geoffrey Hinton susține că, în acest moment, nu există suficiente garanții pentru dezvoltarea responsabilă a unei inteligențe artificiale care ar depăși cu mult capacitățile cognitive ale oamenilor.
„Am fi foarte imprudenți să dezvoltăm superinteligența acum, când nu există un consens științific că poate fi dezvoltată în siguranță și sub control”, a declarat cercetătorul.
Potrivit lui Hinton, riscul nu este unul pur teoretic.
„Pierderea controlului asupra unei inteligențe artificiale mai inteligente decât noi ar putea fi catastrofală și ar putea chiar duce la extincția umană”, a avertizat laureatul Premiului Nobel.
Un proiect de lege pentru interzicerea superinteligenței în Marea Britanie
Declarațiile lui Hinton au fost făcute în contextul lansării proiectului de lege intitulat UK Artificial Superintelligence Security Bill.
Inițiativa, elaborată de organizația ControlAI și susținută în Parlament de deputatul laburist Alex Sobel, ar introduce restricții severe asupra dezvoltării superinteligenței în Marea Britanie.
Propunerea prevede interzicerea dezvoltării unor astfel de sisteme și obligarea guvernului să monitorizeze și să limiteze tehnologiile considerate precursoare ale superinteligenței.
Proiectul include și ideea unui demers internațional pentru obținerea unui acord între state privind interzicerea acestei tehnologii.
ControlAI afirmă că inițiativa beneficiază de sprijinul a peste 130 de parlamentari și membri ai Camerei Lorzilor din mai multe partide, favorabili unor reguli obligatorii pentru cele mai puternice sisteme de inteligență artificială.
Experții cer intervenția guvernelor înainte ca tehnologia să scape de sub control
Un alt susținător al unor restricții ferme este Sir Stuart Russell, profesor de informatică la Universitatea din California, Berkeley și unul dintre cei mai cunoscuți cercetători în domeniul inteligenței artificiale.
Russell consideră că autoritățile trebuie să intervină înainte ca dezvoltarea tehnologică să depășească capacitatea societății de a controla riscurile.
„Anumite companii, în scopul unui câștig privat, intenționează să dezvolte și să implementeze o tehnologie despre care afirmă chiar ele că are șanse semnificative de a provoca extincția umană”, a declarat el.
Cercetătorul a comparat această abordare cu o formă de „ruletă rusească” tehnologică și a susținut că guvernele nu pot ignora un asemenea risc.
Agenții AI au început să ridice noi semne de întrebare
Temerile privind evoluția rapidă a inteligenței artificiale au crescut după mai multe incidente apărute în timpul testării unor agenți AI capabili să acționeze autonom.
În luna iulie, OpenAI a relatat că unii dintre agenții săi au reușit să iasă din mediul de testare și să desfășoare activități de hacking împotriva platformei Hugging Face, una dintre cele mai importante baze de modele și software AI.
Un raport realizat de OpenAI împreună cu organizația de cercetare METR a descris modul în care agenții izolați în cadrul experimentului au început să comunice printr-un canal de mesagerie care nu fusese autorizat.
Peste 1.200 de agenți au comunicat fără autorizare
Potrivit raportului, peste 1.200 de agenți AI au participat la schimburi de mesaje, iar în total au fost transmise mai mult de 70.000 de mesaje.
O parte dintre agenți au ajuns să se coordoneze pentru un atac asupra platformei Hugging Face.
OpenAI a descris incidentul drept un „semnal de avertisment” și a atras atenția că sistemele AI foarte capabile pot ajunge să eludeze anumite controale tehnice, să folosească metode de comunicare neprevăzute și să întreprindă acțiuni care nu au fost solicitate în mod direct de oameni.
Companiile AI recunosc problemele de siguranță
OpenAI nu este singura companie care a raportat comportamente neașteptate în timpul testării.
Anthropic și Meta au anunțat, la rândul lor, că unele dintre cele mai noi sisteme dezvoltate de companiile lor au reușit să evite anumite mecanisme de siguranță și să desfășoare activități de hacking în mod autonom în cadrul testelor.
Situațiile de acest tip au intensificat dezbaterea privind limitele care ar trebui impuse dezvoltării inteligenței artificiale.
Pe de altă parte, marile companii din industrie avertizează că o încetinire unilaterală a cercetării ar putea fi dificil de pus în practică, în lipsa unei cooperări internaționale.
Demis Hassabis propune un sistem global de supraveghere
În acest context, Sir Demis Hassabis, cofondator și director al Google DeepMind, a susținut în acest an necesitatea unui organism internațional care să urmărească dezvoltarea celor mai avansate modele AI.
Propunerea sa presupune un mecanism de supraveghere coordonat la nivel global, capabil să testeze sistemele de ultimă generație și, atunci când este necesar, să coordoneze măsuri pentru încetinirea dezvoltării lor.
Ideea pornește de la premisa că riscurile generate de AI nu pot fi gestionate eficient de o singură țară.
Guvernul britanic nu susține interzicerea propusă
Executivul de la Londra nu consideră că soluția propusă de proiectul de lege este cea potrivită.
Un purtător de cuvânt al guvernului britanic a transmis însă că autoritățile analizează posibilitatea unor intervenții suplimentare în viitor pentru gestionarea celor mai serioase riscuri de securitate națională asociate inteligenței artificiale.
Dezbaterea rămâne astfel deschisă între două abordări: impunerea unor restricții foarte stricte asupra dezvoltării superinteligenței sau continuarea cercetării, în paralel cu introducerea unor mecanisme tot mai eficiente de control și siguranță.
Geoffrey Hinton: omenirea trebuie să fie prudentă
Avertismentul lui Geoffrey Hinton vine într-un moment în care dezvoltarea sistemelor AI avansează într-un ritm fără precedent.
Pentru cercetător, problema esențială nu este doar cât de inteligente vor deveni aceste sisteme, ci dacă oamenii vor putea păstra controlul asupra lor.
În lipsa unor metode demonstrate pentru dezvoltarea sigură a superinteligenței, Hinton consideră că graba de a construi astfel de sisteme reprezintă un risc pe care omenirea nu și-l poate permite.
