Jacob Coxon, cercetător britanic în vârstă de 27 de ani, a anunțat că demisionează de la Anthropic și părăsește industria inteligenței artificiale. Acesta avertizează că dezvoltarea unei superinteligențe necontrolate ar putea avea consecințe extrem de grave.
Jacob Coxon, un cercetător britanic în vârstă de 27 de ani, a anunțat că demisionează de la Anthropic și că părăsește definitiv industria inteligenței artificiale. Matematicianul avertizează că marile companii din domeniu se îndreaptă spre dezvoltarea unei superinteligențe capabile să se îmbunătățească singură, fără ca riscurile să fie suficient de bine controlate.
Coxon a lucrat anterior la antrenarea unor modele de inteligență artificială folosind cantități masive de date și a fost implicat direct în dezvoltarea acestor sisteme.
De ce a decis Jacob Coxon să plece de la Anthropic?
Jacob Coxon spune că a decis să se retragă din industria inteligenței artificiale deoarece consideră că marile companii implicate în dezvoltarea acestei tehnologii nu acționează suficient de responsabil.
„Nașul” inteligenței artificiale avertizează: superinteligența ar putea pune în pericol omenirea
„Niciuna dintre companii nu acționează responsabil. Se îndreaptă cu viteză amețitoare către o superinteligență capabilă de auto-îmbunătățire și se joacă cu viețile noastre”, a transmis Coxon.
Cercetătorul critică atât Anthropic, cât și OpenAI și susține că ritmul dezvoltării tehnologiei este mult prea rapid în raport cu măsurile de siguranță, conform Lefigaro.fr.
Ce spune cercetătorul despre sistemele de inteligență artificială supraomenești?
Coxon avertizează că sistemele de inteligență artificială ar putea deveni în curând supraomenești și ar putea dobândi capacități care depășesc cu mult ceea ce există în prezent.
„Nu subestimați puterea acestei tehnologii. Aceste sisteme vor deveni în curând supraumane, capabile să spargă orice sistem informatic, să revoluționeze orice domeniu peste noapte și să dobândească putere și resurse reale”, mai notează Coxon.
Acesta susține că pericolul nu ține doar de evoluția tehnică a modelelor, ci și de capacitatea lor de a influența lumea reală și de a dobândi resurse.
De ce spune Coxon că inteligența artificială ar putea deveni un pericol pentru omenire?
Cercetătorul susține că inclusiv oamenii care lucrează direct la dezvoltarea inteligenței artificiale se tem de consecințele pe care aceste sisteme le-ar putea avea în următorii ani.
„Oamenii care dezvoltă inteligența artificială cred cu sinceritate că aceasta ne-ar putea elimina pe toți până la sfârșitul deceniului. Deși în fața presei, cercetătorii prezintă un discurs liniștitor, în priviat își epxrimă teama”, a mai declarat cercetătorul.
Coxon afirmă că, deși liderii companiilor folosesc în public un discurs mai temperat, în discuțiile private există temeri serioase privind evoluția tehnologiei.
Ce diferențe vede Jacob Coxon între OpenAI și Anthropic?
Jacob Coxon spune că a plecat inițial de la OpenAI pentru a se alătura Anthropic, companie cunoscută pentru accentul pus pe siguranța sistemelor de inteligență artificială. Ulterior, acesta a ajuns la concluzia că și Anthropic a intrat în aceeași competiție pentru dezvoltarea celor mai puternice modele.
„La OpenAI, mulți nu au internalizat pe deplin implicațiile civilizaționale. La Anthropic, implicațiile sunt bine înțelese, dar sunt angajați într-o cursă pentru a fi primii care le realizează – cred că nimeni altcineva nu va acționa responsabil, așa că trebuie să o facă singuri, în ciuda riscurilor”, a mai spus Coxon.
Cercetătorul consideră astfel că diferența dintre cele două companii ține mai degrabă de nivelul de conștientizare a riscurilor, nu de faptul că una dintre ele ar fi renunțat la cursa pentru dezvoltarea unor sisteme tot mai performante.
Cum ar putea influența competiția cu China siguranța inteligenței artificiale?
Coxon avertizează că rivalitatea tehnologică cu China ar putea împinge companiile și guvernele să acorde o importanță mai mică siguranței, în încercarea de a nu pierde avantajul în dezvoltarea inteligenței artificiale.
Cercetătorul a mai spus că domeniul a intrat într-o fază pe care unii dintre colegii săi o descriu prin termenul „endgame”, adică un moment decisiv în cursa pentru dezvoltarea unor sisteme de inteligență artificială tot mai puternice.
