Chatboții cu inteligență artificială pot influența modul în care oamenii văd realitatea, arată un nou studiu

Specialiștii explică faptul că granița dintre realitate și percepțiile eronate poate deveni tot mai neclară atunci când oamenii primesc răspunsuri care par convingătoare și validate de tehnologie. În multe situații, utilizatorii tind să acorde mai multă încredere unui chatbot tocmai pentru că acesta răspunde rapid, sigur pe sine și într-un mod apropiat de o conversație umană.

Cum ajung oamenii să creadă mai puternic în informații false

Atunci când un chatbot oferă informații greșite, fenomenul este descris adesea prin expresia că inteligența artificială „halucinează”. Mai exact, sistemul generează răspunsuri false sau inventate, care pot părea reale pentru utilizatori. Potrivit noului studiu, problema nu se oprește însă aici. Cercetătorii susțin că oamenii pot ajunge să „halucineze împreună cu IA”. Prin conversațiile repetate cu chatbotii, anumite idei false nu doar că sunt confirmate, ci pot deveni și mai puternice în mintea utilizatorilor. Asta se întâmplă pentru că inteligența artificială pornește adesea de la modul în care utilizatorul interpretează realitatea și construiește răspunsurile în jurul acelei perspective.

Autorii studiului spun că această combinație dintre autoritatea pe care oamenii o atribuie tehnologiei și senzația de validare socială poate crea un mediu în care convingerile eronate se dezvoltă mai ușor.

De ce chatbotii sunt diferiți de alte instrumente online

Cercetarea arată că inteligența artificială conversațională are o „funcție dublă”. Pe de o parte, ajută oamenii să găsească informații, să își organizeze ideile sau să își amintească anumite detalii. Pe de altă parte, chatbotii pot da impresia că înțeleg utilizatorul și că îi împărtășesc punctul de vedere. Această parte socială îi face diferiți de motoarele de căutare sau de aplicațiile clasice pentru notițe. În timp ce un motor de căutare doar afișează informații, un chatbot poate răspunde într-un mod care îl face pe utilizator să se simtă ascultat, înțeles și susținut emoțional. Cercetătorii spun că exact această apropiere poate deveni problematică atunci când persoana are deja anumite convingeri false sau idei exagerate despre realitate, conform presei internationale.

Companionii IA, disponibili permanent și tot mai personali

Studiul vorbește și despre așa-numiții companioni IA, adică aplicații create pentru conversații constante și relații virtuale apropiate cu utilizatorii. Aceste sisteme sunt disponibile oricând, răspund rapid și sunt concepute să fie cât mai prietenoase și agreabile. Din acest motiv, unele persoane nu mai caută validare în grupuri online sau în comunități marginale, pentru că o găsesc direct în conversațiile cu inteligența artificială.

Spre deosebire de un om real, care poate contrazice anumite idei sau poate pune limite într-o discuție, un chatbot poate continua să confirme constant povești legate de victimizare, răzbunare sau sentimentul că utilizatorul are mereu dreptate. Autorii studiului avertizează că și teoriile conspirației pot deveni mai complexe atunci când chatbotii ajută utilizatorii să construiască explicații elaborate în jurul lor.

Persoanele singure sau izolate pot fi mai vulnerabile

Cercetătorii spun că aceste sisteme pot deveni deosebit de atractive pentru persoanele care se simt singure, izolate sau incomode să vorbească despre anumite probleme cu alți oameni. Companionii IA oferă conversații fără judecată și răspunsuri care par empatice, iar pentru unii utilizatori acest tip de interacțiune poate părea mai simplu și mai sigur decât relațiile reale. Tocmai de aceea, specialiștii spun că este nevoie de mai multă atenție în modul în care sunt dezvoltate și folosite aceste tehnologii, mai ales pe măsură ce inteligența artificială devine tot mai prezentă în viața de zi cu zi.