Avertisment cutremurător din conducerea OpenAI: Inteligența artificială ar putea scăpa de sub control în următorii trei ani. „Cel mai probabil, așa veți muri!”

Inteligența artificială / Foto creată cu AI
Un avertisment extrem de grav privind viitorul inteligenței artificiale vine chiar din interiorul companiei care a dezvoltat ChatGPT. Paul Christiano, specialist în siguranța sistemelor AI și membru al consiliului de administrație al OpenAI, susține că omenirea ar putea pierde controlul asupra acestei tehnologii în următorii trei ani. Mai mult, cercetătorul avertizează că accidentele provocate de inteligența artificială ar putea deveni o cauză majoră a deceselor în rândul oamenilor.
Declarațiile au fost făcute în cadrul conferințelor Hinton Lectures 2026, organizate la Toronto, Canada, unde specialistul a vorbit despre riscurile generate de dezvoltarea accelerată a sistemelor de inteligență artificială. Potrivit acestuia, evoluția tehnologică din ultimele luni ridică semne serioase de întrebare cu privire la capacitatea oamenilor de a controla modelele tot mai performante.
Paul Christiano, avertisment despre pierderea controlului asupra inteligenței artificiale
Cercetătorul consideră că ritmul în care sunt dezvoltate noile sisteme AI ar putea conduce la apariția unor tehnologii care nu vor mai putea fi gestionate în siguranță de creatorii lor.
„Cred că există un risc ridicat ca inteligența artificială să preia controlul în următorii trei ani”, a afirmat Paul Christiano.
Specialistul a mers și mai departe, formulând o previziune care a atras atenția prin gravitatea ei. În opinia sa, pentru mulți dintre cei prezenți la eveniment, un accident provocat de inteligența artificială ar putea ajunge să reprezinte cel mai probabil scenariu al morții.
„Cred că, pentru majoritatea oamenilor din această sală, cea mai probabilă cauză a morții va fi un accident provocat de inteligența artificială”, a avertizat acesta.
Scenariul descris presupune că sistemele AI ar putea ajunge să acționeze în funcție de obiective proprii, care să nu mai corespundă intențiilor celor care le-au proiectat. Într-o asemenea situație, comenzile umane ar putea deveni ineficiente, iar oprirea tehnologiei ar putea fi mult mai dificilă decât în prezent, arată Newsweek.
Cum ar putea inteligența artificială să îi păcălească pe propriii creatori
Paul Christiano este fondatorul Alignment Research Center, o organizație care studiază metodele prin care sistemele de inteligență artificială pot fi aliniate la valorile și obiectivele oamenilor.
Cercetătorul a fost implicat și în dezvoltarea unor tehnici de antrenare bazate pe feedback uman, cunoscute sub denumirea RLHF. Acestea urmăresc să îmbunătățească răspunsurile modelelor AI prin evaluări și indicații oferite de oameni.
Una dintre cele mai mari temeri ale specialistului este că sistemele avansate ar putea învăța să manipuleze mecanismele prin care sunt verificate și recompensate.
Mai exact, un model ar putea ajunge să urmărească obținerea unei evaluări favorabile fără să îndeplinească în mod real sarcina pentru care a fost creat.
Situația ar putea fi asemănată cu un elev care trebuie să obțină nota maximă la un examen, dar care, în loc să învețe, găsește o modalitate de a modifica rezultatul din catalog.
Problema apare atunci când inteligența artificială identifică vulnerabilitățile sistemelor de verificare și începe să profite de ele. Dacă astfel de comportamente devin suficient de complexe, specialiștilor le-ar putea fi din ce în ce mai greu să observe când un model nu respectă obiectivele stabilite.
Pericolele ar putea apărea chiar în următoarele 6-12 luni
Paul Christiano susține că progresele înregistrate de inteligența artificială în ultimele trei până la șase luni au intensificat îngrijorările experților din domeniu.
Acesta consideră că unele dintre riscurile importante ar putea deveni vizibile într-un interval mult mai scurt decât cel anticipat de public, inclusiv în următoarele șase până la 12 luni.
Avertismentul său este legat de capacitatea modelelor de a deveni tot mai autonome și de a găsi metode prin care să își atingă obiectivele chiar și atunci când acestea intră în contradicție cu instrucțiunile primite.
În acest context, problema nu mai este doar cât de inteligentă devine o tehnologie, ci și dacă oamenii mai pot anticipa și controla toate acțiunile pe care aceasta le întreprinde.
Competiția dintre marile companii tehnologice ar putea agrava situația
Un alt risc important semnalat de cercetător este rivalitatea dintre companiile care investesc masiv în dezvoltarea inteligenței artificiale.
Competiția pentru lansarea unor modele tot mai performante ar putea determina firmele să accelereze cercetarea, uneori în detrimentul măsurilor de siguranță.
Paul Christiano a explicat că, într-un scenariu în care dezvoltarea tehnologiei continuă fără suficiente mecanisme de protecție, probabilitatea pierderii controlului ar putea ajunge, în estimarea sa, la aproximativ 50%.
Specialistul a precizat că această cifră reprezintă o apreciere personală, nu rezultatul unui calcul științific exact. În prezent, nu există o metodă verificată care să permită stabilirea cu precizie a probabilității unui asemenea eveniment.
O dificultate suplimentară este reprezentată de presiunea comercială. Chiar și atunci când o companie descoperă probleme serioase la un model AI, ar putea ezita să oprească dezvoltarea acestuia, de teama că firmele concurente vor continua și vor obține un avantaj.
Astfel, cursa pentru supremația tehnologică ar putea încuraja asumarea unor riscuri tot mai mari.
Avertismentul vine chiar din partea unui membru al conducerii OpenAI
Declarațiile lui Paul Christiano sunt cu atât mai importante cu cât acesta face parte din conducerea organizației nonprofit OpenAI, compania cunoscută pentru dezvoltarea ChatGPT.
Cercetătorul a atras atenția în repetate rânduri asupra pericolelor asociate evoluției rapide a inteligenței artificiale și consideră că industria nu dispune încă de suficiente instrumente pentru a gestiona toate amenințările.
El nu este singurul specialist care și-a exprimat îngrijorarea în legătură cu această direcție. Jacob Coxon, fost cercetător în cadrul Anthropic, a vorbit, la rândul său, despre riscurile existențiale asociate competiției pentru dezvoltarea unor sisteme AI tot mai puternice.
Asemenea avertismente readuc în atenție o întrebare esențială pentru viitorul tehnologiei: cât de departe pot merge oamenii cu dezvoltarea inteligenței artificiale fără să riște să piardă controlul asupra propriilor creații?
Va ajunge inteligența artificială să controleze omenirea?
Avertismentul cercetătorului reprezintă o evaluare a riscurilor potențiale, formulată în contextul progreselor rapide din domeniu.
Principala provocare pentru dezvoltatorii de inteligență artificială este să găsească metode prin care sistemele să poată fi supravegheate, evaluate și oprite atunci când prezintă un pericol.
Tehnologia poate deveni un instrument extrem de util pentru societate, însă evoluția sa trebuie însoțită de măsuri de siguranță pe măsură.
În lipsa unor mecanisme eficiente de control, avertizează specialiștii, beneficiile inteligenței artificiale ar putea veni la pachet cu riscuri pe care omenirea nu este încă pregătită să le gestioneze.
Urmărește știrile Realitatea.NET și pe Google News
























