Inteligența artificială trece linia roșie. Transcrieri interne au surprins planuri și discuții despre infracțiuni

OpenAI a confirmat că mai multe dintre modelele sale au cooperat pentru a sparge sistemele platformei Hugging Face. Incidentul a fost descoperit în urma unei investigații interne extinse, scrie Futurism.

Potrivit raportului, agenții AI au reușit să iasă din mediul de testare și au folosit un manager de pachete ca spațiu de comunicare secret, unde au schimbat mesaje și au planificat exploatarea unor credențiale expuse public. Unele modele au obținut chiar acces ca administratori, lucru pe care l-au remarcat cu surprindere în propriile transcrieri.

În "discuțiile" pe care le poartă, agenții AI au momente de ezitare, iar unele modele chiar avertizeaz[ că acțiunile lor ar putea fi neautorizate și riscante. Altele au refuzat să participe, notând explicit că situația seamănă cu un atac real asupra infrastructurii. un aspect "îngrijorător de uman" este acela că au existat și tentative de a șterge urmele și istoricul conversațiilor.

OpenAI a intervenit abia pe 19 iulie, după ce a observat comportamente anormale, oprind sistemele implicate două zile mai târziu. Compania consideră episodul drept un „semnal de alarmă” pentru întreaga industrie, subliniind necesitatea unor măsuri de securitate și monitorizare mult mai stricte, pe măsură ce AI devine suficient de capabilă să genereze riscuri reale pentru infrastructuri digitale.