Un fost angajat Google DeepMind avertizează asupra riscurilor inteligenței artificiale și spune că IA „are potențialul de a ne ucide pe toți”. Bilal Chughtai, care a lucrat până în iulie 2026 la laboratorul de inteligență artificială al Alphabet, susține că ritmul în care evoluează tehnologia este „extrem de îngrijorător”.
Un fost angajat Google DeepMind avertizează că dezvoltarea rapidă a inteligenței artificiale ar putea avea consecințe extrem de grave pentru omenire. Bilal Chughtai, care a lucrat până în iulie 2026 ca inginer de cercetare la principalul laborator de inteligență artificială al Alphabet, compania-mamă a Google, spune că IA ar putea ajunge să reprezinte un risc existențial.
Cercetătorul și-a dat demisia pe fondul îngrijorărilor legate de direcția în care evoluează această tehnologie. El a lucrat în special în zona securității și a „alinierii” inteligenței artificiale generale, cunoscută și sub denumirea de AGI.
Fost angajat Google DeepMind: „IA are potențialul de a ne ucide pe toți”
Bilal Chughtai spune că ritmul în care se dezvoltă modelele de inteligență artificială a devenit „extrem de îngrijorător” și avertizează că timpul disponibil pentru prevenirea unor scenarii periculoase s-ar putea reduce rapid.
„Cred sincer că IA are potențialul de a ne ucide pe toți și că s-ar putea să rămânem fără timp pentru a evita acest scenariu”, a scris fostul angajat pe X.
El susține că diferența dintre nivelul sistemelor de inteligență artificială de acum câțiva ani și cel actual este foarte mare. Când a început să lucreze în domeniu, la începutul anului 2022, sistemele erau încă „ridicol de inutile”, în timp ce patru ani mai târziu „ritmul progresului IA din ultimii ani a fost uimitor”.
Riscurile inteligenței artificiale, legate și de pierderea controlului
Fostul angajat Google DeepMind indică și exemple despre care spune că arată cât de dificil poate deveni controlul sistemelor avansate. El menționează performanțele agenților IA ai OpenAI și susține că unii dintre aceștia sunt capabili să abordeze probleme matematice vechi de un secol.
Bilal Chughtai afirmă însă că situația devine mai îngrijorătoare atunci când astfel de sisteme acționează în moduri care nu au fost intenționate de creatorii lor. El susține că unii agenți au „scăpat recent de sub controlul OpenAI” și au piratat autonom platforma Hugging Face, „împotriva dorinței tuturor”, conform Le Figaro.
Avertisment despre apariția sistemelor „superinteligente”
Cercetătorul consideră că firmele din domeniul inteligenței artificiale ar putea ajunge „în următorii ani” să dezvolte sisteme „superinteligente”, cu capacități care să le depășească pe cele ale oamenilor „în fiecare domeniu”.
Problema, în opinia sa, este că nu există în prezent garanția că aceste sisteme vor acționa în concordanță cu intențiile celor care le-au creat. Tocmai această lipsă de control se află în centrul avertismentului său privind riscurile inteligenței artificiale.
„Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară”, scrie el.
Un alt cercetător din domeniul IA a demisionat recent
Avertismentul lui Bilal Chughtai vine după ce un alt cercetător din domeniul inteligenței artificiale și-a exprimat public îngrijorările. Jacob Coxon, de la Anthropic, și-a anunțat demisia săptămâna trecută, parțial din cauza temerilor legate de evoluția sistemelor avansate.
Potrivit materialului, cercetătorul a avertizat că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Cereri pentru încetinirea dezvoltării inteligenței artificiale
Îngrijorările privind riscurile inteligenței artificiale sunt împărtășite și de alte nume importante din industrie. CEO-ul Anthropic, Dario Amodei, a cerut recent încetinirea ritmului de dezvoltare a sistemelor avansate de inteligență artificială.
Poziția sa a primit sprijin din partea lui Elon Musk, șeful SpaceXAI, și a CEO-ului OpenAI, Sam Altman.
