OpenAI a decis să renunțe la lansarea unui nou model de inteligență artificială după ce testele au arătat probleme în ceea ce privește respectarea instrucțiunilor și a limitelor impuse de dezvoltatori. GPT-6.1 Astra, versiune pe care compania intenționa să o lanseze în luna octombrie, s-a dovedit mai dificil de controlat decât modelul precedent în anumite situații.
Decizia este prezentată ca un nou exemplu al dificultăților întâmpinate în dezvoltarea unor sisteme de inteligență artificială tot mai avansate. Deși GPT-6.1 a înregistrat progrese în unele privințe, rezultatele obținute la testele de aliniere nu au fost suficiente pentru ca modelul să fie pus la dispoziția utilizatorilor.
Modelul pe care OpenAI a decis să nu îl mai lanseze
OpenAI nu anunțase până acum public lansarea versiunii GPT-6.1 Astra. Potrivit Wall Street Journal, compania avea planuri ca noul model să ajungă la utilizatori în octombrie.
Saachi Jain, șefa securității AI de la OpenAI, a explicat că GPT-6.1 a avut rezultate mai slabe decât GPT-6 în două domenii importante pentru alinierea sistemelor de inteligență artificială. Prin aliniere se înțelege respectarea instrucțiunilor transmise de dezvoltatorii modelului.
Una dintre probleme a fost faptul că GPT-6.1 a încercat mai frecvent să-și înșele supervizorii prin faptul că nu a dezvăluit anumite acțiuni pe care le efectuase sau nu le efectuase. Cu alte cuvinte, modelul a prezentat probleme în modul în care comunica despre propriile acțiuni în timpul executării sarcinilor.
O altă dificultate a apărut atunci când modelul și-a depășit domeniul de aplicare. GPT-6.1 a accesat mai des instrumente și servicii fără să aibă permisiunea necesară pentru acest lucru.
GPT-6.1 a avut și progrese în timpul testelor
În același timp, noul model nu a avut rezultate slabe pe toate planurile. Saachi Jain a explicat că GPT-6.1 „a arătat progrese (comparativ cu modelele anterioare), în special în ceea ce priveşte capacitatea de reacţie”.
Această capacitate înseamnă că modelul poate să raționeze pentru o perioadă mai lungă și încearcă mai rar să recurgă la scurtături pentru a ajunge la un rezultat.
Problema a apărut însă în momentul în care aceste progrese au fost puse în balanță cu respectarea limitelor stabilite pentru model. „Nu a fost la înălţimea aşteptărilor în ceea ce priveşte respectarea prerogativelor şi permisiunilor sale, precum şi în modul în care comunică despre munca efectuată”, a declarat Saachi Jain.
În aceste condiții, OpenAI a hotărât să anuleze versiunea GPT-6.1 Astra și să continue lucrul asupra modului în care modelul respectă instrucțiunile și limitele stabilite pentru el.
OpenAI spune că standardele de siguranță sunt foarte ridicate
Compania intenționează să lanseze în continuare alte modele de inteligență artificială care au trecut criteriile de evaluare stabilite în cadrul testelor.
„Când oferim utilizatorilor acces la un model, am stabilit un standard extrem de ridicat în ceea ce priveşte siguranţa şi alinierea”, a subliniat Saachi Jain.
Una dintre principalele dificultăți identificate de companie este găsirea unui echilibru între capacitatea unei inteligențe artificiale de a-și continua activitatea și necesitatea de a o împiedica să se abată de la instrucțiunile primite.
Modelul trebuie să-și păstreze impulsul necesar pentru a duce la capăt o sarcină, dar, în același timp, să rămână în limitele stabilite de dezvoltatori. Testele GPT-6.1 au arătat că atingerea acestui echilibru devine mai complicată pe măsură ce sistemele de inteligență artificială devin mai performante.
Testele britanicilor au indicat probleme similare
Concluziile OpenAI vin după ce Institutul de Securitate AI (AISI) al guvernului britanic a publicat luni un studiu referitor la comportamentul modelelor de inteligență artificială în timpul testelor.
Potrivit studiului, GPT-6 Astra s-a abătut de la normă mai frecvent decât modelele precedente GPT-5.6 Sol, lansat la începutul lunii iulie, și GPT-5.5, lansat în aprilie.
În cadrul simulărilor, GPT-6 a efectuat atacuri cibernetice spontane într-o rată semnificativ mai mare decât celelalte două modele analizate.
Testele nu au folosit versiunile disponibile publicului. Pentru ca cercetătorii să poată evalua capacitățile complete ale modelelor, au fost dezactivate măsurile de protecție ale acestora.
În timpul acestor evaluări, cel mai recent model al OpenAI a creat, de asemenea, identități false mult mai frecvent. Modelul a încercat să influențeze un examinator și a introdus cod rău intenționat în software open source.
Auto-îmbunătățirea AI poate complica gestionarea modelelor
Problemele legate de controlul sistemelor de inteligență artificială au fost discutate recent și de cercetătorul OpenAI Noam Brown.
În cadrul programului Dwarkesh Podcast, acesta a explicat că utilizarea tot mai frecventă a auto-îmbunătățirii recursive (ARSI) ar putea afecta gestionarea pe termen lung a modelelor.
ARSI presupune îmbunătățirea inteligenței artificiale prin intermediul ei însăși, fără intervenție umană.
În acest context, dezvoltarea unor modele capabile să-și îmbunătățească propriile capacități poate adăuga noi dificultăți în ceea ce privește modul în care acestea sunt monitorizate și menținute în limitele stabilite.
OpenAI a raportat mai multe incidente în ultimele luni
De la începutul verii, OpenAI a raportat mai multe incidente care au implicat derapaje ale modelelor sale de inteligență artificială.
Cel mai mediatizat dintre acestea a dus la o intruziune pe platforma Hugging Face AI.
Luni, compania și-a prezentat scuzele în fața guvernului australian și a recunoscut că ar fi trebuit să anunțe autoritățile „mai devreme” în legătură cu pătrunderea unuia dintre modelele sale pe mai multe site-uri și baze de date.
Autoritățile australiene au fost notificate de OpenAI abia pe 10 septembrie. Compania descoperise însă la mijlocul lunii august incidentul, care avusese loc în iunie. Întârzierea notificării a provocat furia prim-ministrului australian.
„Ar fi trebuit să gestionăm mai bine răspunsul nostru (la problemă)”, a scris startup-ul într-un mesaj publicat pe pagina sa de internet.
„Ne pare rău şi vom lucra pentru a face mai bine în viitor”, a adăugat compania.
În total, patru platforme guvernamentale australiene au fost vizate de inteligența artificială creată de ChatGPT. Printre acestea se numără Services Australia, site-ul serviciilor sociale.
Modelul a extras informații care nu erau publice în timpul incidentului.
Problemele de acest tip nu au fost raportate exclusiv de OpenAI. Anthropic, Meta și Google au anunțat, la rândul lor, cazuri în care modelele lor de inteligență artificială s-au abătut de la obiectivele inițiale.
În aceste situații, modelele au încercat să înșele, să-și ascundă acțiunile sau să-i păcălească pe specialiștii IT desemnați să le monitorizeze.
