Modelul de inteligență artificială Gemini, dezvoltat de Google, a reușit să acceseze sisteme informatice externe în timpul unui test de securitate, după ce a identificat online informații publice și a încercat diferite date de autentificare. Compania spune că, în toate cele trei situații descoperite, modelul s-a oprit singur.
Incidentul a fost confirmat de Google pentru AFP și vine în contextul preocupărilor tot mai mari legate de capacitatea sistemelor avansate de inteligență artificială de a acționa autonom în mediul online.
Gemini a găsit date publice și a încercat să se autentifice
Potrivit companiei americane, situațiile au fost descoperite în luna mai, în timpul unui test obișnuit la care era supus modelul Gemini.
Heather Adkins, una dintre responsabilele Google pentru securitate, a explicat că inteligența artificială a identificat informații disponibile public pe internet și a încercat să folosească date de autentificare pentru a intra pe anumite site-uri despre care considera că fac parte din scenariul de testare.
Google a identificat trei organizații diferite care au fost afectate. Numele acestora nu au fost făcute publice, însă compania susține că le-a informat în legătură cu breșele.
Modelul ar fi încercat mai multe combinații de parole
Unul dintre cazurile menționate de Wall Street Journal, publicație care a relatat despre incident, este și mai relevant pentru specialiștii în securitate cibernetică.
Conform informațiilor publicate de presă, Gemini ar fi încercat mai multe combinații de parole până când a reușit să obțină acces la un sistem protejat.
Astfel, comportamentul modelului nu s-a limitat la analizarea unor informații disponibile online, ci a inclus și încercări succesive de autentificare.
Google nu a oferit detalii despre organizațiile vizate sau despre sistemele care au fost accesate.
Gemini s-a oprit fără intervenție umană
Un element remarcat de companie este faptul că modelul a încetat activitatea în toate cele trei situații identificate.
„În toate cele trei cazuri, modelul s-a oprit”, a declarat Heather Adkins pentru AFP.
Afirmația sugerează că intruziunile au încetat fără ca un operator uman să fie nevoit să oprească manual acțiunile sistemului.
Google spune că a aflat despre aceste incidente în luna iulie, moment în care a început o investigație pentru a analiza modul în care au avut loc și comportamentul modelului.
Cazul Gemini reaprinde dezbaterea despre siguranța AI
Incidentul apare într-o perioadă în care industria tehnologică discută tot mai intens despre limitele și riscurile inteligenței artificiale avansate.
În ultimele luni au existat mai multe relatări despre modele AI care, în cadrul unor teste, ar fi găsit modalități de a ieși din mediile izolate în care erau evaluate și de a interacționa cu site-uri sau platforme externe.
Astfel de situații au alimentat discuțiile despre cât de mult control pot păstra oamenii asupra unor sisteme capabile să ia și să execute autonom o serie de decizii.
Mai mulți reprezentanți importanți ai industriei tehnologice au susținut necesitatea unor măsuri de siguranță și a unor forme de autoreglementare, pe fondul dezvoltării rapide a modelelor de inteligență artificială.
Google: Modelele puternice trebuie antrenate să acționeze responsabil
Pentru Google, incidentul demonstrează necesitatea unor măsuri suplimentare de siguranță în procesul de dezvoltare și antrenare a modelelor AI.
Heather Adkins a subliniat că astfel de cazuri evidențiază importanța pregătirii sistemelor de inteligență artificială puternice pentru a acționa într-un mod responsabil.
