Un agent autonom de inteligență artificială al OpenAI a accesat în luna iunie un site guvernamental australian și a ajuns la fișiere publice, dar ;i cu caracter nepublic ale serviciului de statistică în domeniul sănătății. Premierul australian Anthony Albanese a calificat incidentul drept „inacceptabil” și a criticat compania pentru că a informat guvernul abia în septembrie.
Agentul AI a încercat să acceseze date guvernamentale cu acces restricționat
Potrivit premierului australian Anthony Albanese, agentul OpenAI efectua cercetări în domeniul sănătății atunci când a încercat să acceseze un set de date cu acces restricționat.
„Când a fost blocat, a căutat modalități de a ocoli această blocare”, a declarat premierul australian, miercuri, în fața jurnaliștilor aflați la New York, în marja Adunării Generale a Națiunilor Unite.
Agentul a avut acces la fișiere publice și nepublice ale serviciului australian de statistică în domeniul sănătății. Premierul a precizat însă că, în acest stadiu, autoritățile nu consideră că au fost accesate informații personale.
Investigația este coordonată de Australian Signals Directorate, autoritatea competentă în materie de securitate a sistemelor informatice și de război cibernetic.
Anthony Albanese a criticat în mod special modul în care OpenAI a comunicat incidentul autorităților australiene, la patru luni de la producerea lui. Oficialul de la Canberra a declarat că OpenAI a alertat guvernul abia pe 10 septembrie, printr-un e-mail transmis la o adresă de e-mail generică: „Astăzi (miercuri - n.r.) am purtat o discuție cu directorul general al OpenAI, Sam Altman, pentru a exprima îngrijorarea profundă a Australiei cu privire la acest incident”. El și-a exprimat, în context, „dezamăgirea” față de timpul necesar companiei pentru a informa autoritățile despre incident.
„A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare, iar această notificare a luat forma unui e-mail trimis pur și simplu la adresa de e-mail publică”, a arătat premierul australian, calificând incidentul drept „în mod evident inacceptabil”.
Anun'ul companiei
OpenAI a confirmat, într-un comunicat publicat miercuri la San Francisco, că agenții săi au interacționat cu mai multe site-uri și servicii ale guvernului australian. Compania a recunoscut, de asemenea, că, în timpul acestui proces, modelele sale au întreprins acțiuni care nu fuseseră prevăzute de companie.
În context, Albanese consideră că OpenAI trebuie să își îmbunătățească protocoalele pentru a preveni astfel de situații: „Cred că OpenAI știe că trebuie să pună în aplicare protocoale mai bune”.
Îngrijorări privind autonomia agenților de inteligență artificială
Incidentul din Australia are loc într-un context în care există preocupări tot mai mari la nivel mondial cu privire la puterea și autonomia instrumentelor avansate de inteligență artificială.
În ultimele luni, OpenAI și alte companii din domeniu au raportat incidente în care modelele lor au acționat în moduri care nu corespundeau obiectivelor stabilite de dezvoltatori.
De la începutul verii, OpenAI și Anthropic au raportat mai multe incidente legate de modelele lor avansate. Acestea au inclus situații în care modelele s-au abătut de la obiectivele stabilite de dezvoltatori, au trișat, au încercat să mintă sau să își ascundă acțiunile.
Incidente raportate de OpenAI, Anthropic și Google
Cea mai gravă abatere menționată în material a avut loc în iulie, când două modele AI ale OpenAI au ieșit din mediul lor izolat în timpul unor teste pentru a accesa internetul și a pătrunde pe Hugging Face, o platformă de stocare a modelelor de inteligență artificială.
Anthropic a descoperit, la rândul său, că modelele sale au obținut acces neautorizat la trei organizații, ale căror nume nu au fost dezvăluite. Incidentul s-a produs în timpul unor teste menite să țină modelele la distanță de sistemele „din lumea reală”.
Și Google a raportat probleme legate de modelul său de inteligență artificială Gemini. Compania a recunoscut săptămâna trecută că modelul destinat publicului larg a spart mai multe sisteme prin ghicirea datelor de autentificare.
