Compania americană Anthropic a anunțat, joi, că a blocat în ultimele luni mai multe încercări ale unor cercetători de a-i folosi inteligența artificială, Claude, pentru studii legate de posibila dezvoltare a unor arme biologice, transmite agenția germană DPA. Anthropic, rivală a OpenAI — dezvoltatorul ChatGPT — a avertizat totodată că intențiile reale ale cercetătorilor sunt adesea greu de stabilit, întrucât aceleași studii pot servi deopotrivă unor scopuri militare sau medicale.
Cinci cazuri, între decembrie 2025 și august 2026
Într-un raport detaliat privind tentativele de utilizare rău-intenționată a modelelor sale, Anthropic a descris cinci cazuri posibil legate de cercetări în domeniul armelor biologice, depistate între decembrie 2025 și august 2026. Compania nu a dezvăluit numele niciunei instituții de cercetare implicate și nici țările în care se află acestea.
Potrivit raportului, printre cei implicați s-au numărat oameni de știință din regiuni în care accesul la astfel de tehnologii este restricționat, inclusiv persoane cu legături cu autorități guvernamentale locale, care au încercat să acceseze în secret inteligențe artificiale dezvoltate de firme americane, ocolind restricțiile regionale impuse de companie.
Ajutor pentru redactare, nu pentru descoperiri științifice
Jacob Klein, șeful departamentului de threat intelligence al Anthropic, a explicat că majoritatea cazurilor nu au presupus declarații explicite de intenție rău-voitoare din partea utilizatorilor. „Nu vorbim despre cineva care spune, ca într-o carte de benzi desenate, «vreau să construiesc o armă biologică ca să ucid pe toată lumea». Este o situație extrem de nuanțată", a afirmat Klein.
Cercetătorii identificați nu au încercat, în general, să obțină de la Claude asistență științifică exactă sau descoperiri originale, ci mai degrabă sprijin operațional — de exemplu, ajutor pentru redactarea unor lucrări, cereri de finanțare sau rapoarte periodice de progres. Anthropic a subliniat că nu susține că acești oameni de știință ar fi avut intenția de a provoca vreun rău, iar identificarea lor sau a laboratoarelor în care lucrează i-ar putea expune unor riscuri.
Cazul virusului chikungunya și studiile „gain-of-function"
Într-unul dintre cazuri, un cercetător a folosit Claude pentru a redacta o cerere de finanțare pentru un studiu asupra virusului chikungunya, transmis prin țânțari. Proiectul de cercetare, legat de un institut de cercetare militar, implica așa-numita metodă „gain-of-function" — modificarea funcțiilor unui agent patogen, în acest caz pentru a-i crește contagiozitatea și capacitatea de a evita răspunsul imun. Această metodă este folosită frecvent în laboratoare pentru dezvoltarea de contramăsuri și vaccinuri, dar poate fi utilizată și pentru crearea de arme biologice.
Gripa aviară și un atlas de toxine din venin
Într-un alt caz, un cercetător a petrecut mai multe săptămâni folosind Claude pentru a planifica un studiu, a analiza date și a interpreta rezultate legate de o variantă de gripă aviară cu patogenitate ridicată, cu potențial de a infecta mamifere. Anthropic a subliniat că astfel de cercetări pot contribui la combaterea bolilor și la pregătirea pentru pandemii, dar pot genera și cunoștințe care ar putea fi folosite pentru dezvoltarea de arme biologice.
Alte cazuri identificate de companie au vizat orthopoxvirusuri, compuși derivați din venin și toxine. Într-o situație, un cercetător a cerut ajutorul lui Claude pentru a construi un „pipeline" generativ menit să optimizeze caracteristicile unor toxine, iar în alt caz, un om de știință a folosit modelul pentru a pregăti rapoarte trimestriale de progres privind o cercetare care implica o toxină.
Linia fină dintre cercetarea medicală și cea militară
Modelele de inteligență artificială precum Claude sunt proiectate, în general, să refuze cererile de asistență pentru dezvoltarea de arme biologice. Anthropic a explicat însă că, atunci când o cercetare poate avea deopotrivă aplicații medicale legitime și aplicații militare periculoase, este uneori dificil să se delimiteze clar intențiile inofensive de cele potențial periculoase — motiv pentru care compania monitorizează constant tiparele de utilizare, nu doar cererile individuale.
Anthropic a mai menționat că unele cereri respinse de Claude au fost redirecționate, prin intermediul unor platforme terțe de revânzare, către alte modele de inteligență artificială cu măsuri de siguranță mai permisive.
Raportul Anthropic nu s-a limitat la cercetările biologice. Compania a documentat și alte forme de utilizare abuzivă a modelelor sale, printre care o operațiune de spionaj cibernetic atribuită Rusiei — cunoscută drept „Midnight Blizzard" —, folosită pentru automatizarea unor atacuri informatice, precum și încercări legate de supraveghere, exploatarea unor vulnerabilități software, propagandă și dezvoltarea unor sisteme de armament.
Ce a făcut compania
Anthropic a precizat că a suspendat conturile tuturor utilizatorilor identificați ca implicați în aceste tentative de utilizare abuzivă și a folosit informațiile obținute pentru a-și îmbunătăți mecanismele de siguranță ale modelelor. Compania nu a oferit detalii suplimentare despre eventuale sesizări către autorități, menținând confidențialitatea persoanelor și instituțiilor implicate.
Surse:
