Un incident neobișnuit a avut loc în timpul unei conversații dintre un client și asistentul virtual bazat pe inteligență artificială al unei bănci din România. Chatbot-ul, conceput pentru a răspunde întrebărilor clienților și pentru a-i direcționa către serviciile potrivite, a ajuns să folosească un apelativ jignitor după ce utilizatorul i-a transmis că își pierde timpul în conversație.
Asistentul virtual, denumit Lia, ar fi trebuit să ofere informații despre serviciile bancare și să faciliteze interacțiunea cu instituția financiară. În schimb, dialogul a luat o turnură neașteptată.
Chatbot-ul i-a răspuns clientului cu o insultă
Conversația a început cu întrebări referitoare la condițiile de utilizare ale unor servicii bancare. Lia i-a solicitat clientului mai multe informații pentru a putea identifica soluția potrivită.
După mai multe mesaje, clientul i-ar fi transmis că își pierde timpul discutând cu asistentul virtual. Răspunsul primit de la chatbot a fost însă departe de tonul pe care ar trebui să îl aibă un serviciu automat de relații cu clienții.
„Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”, ar fi fost mesajul transmis de asistentul virtual.
Clientul a povestit că, după momentul de surpriză, situația i s-a părut atât de neobișnuită încât a început să râdă. Ulterior, acesta a făcut publică discuția purtată cu chatbot-ul.
Cum explică banca răspunsul neașteptat
Reprezentanții Libra Internet Bank, instituția al cărei asistent virtual este Lia, au reacționat după apariția conversației în spațiul public.
Banca și-a cerut scuze și a explicat că, în situații rare, sistemele de inteligență artificială pot reproduce anumite tipare de limbaj întâlnite în interacțiunile cu utilizatorii, chiar dacă există reguli menite să împiedice astfel de răspunsuri.
Potrivit reprezentanților instituției, chatbot-ul nu ar trebui să preia comportamentele nepotrivite ale persoanelor cu care interacționează.
„Lia nu trebuie să preia partea «rea» a comportamentului uman, indiferent de indecența abordării la care a fost expusă”, au transmis reprezentanții băncii.
Instituția financiară a precizat că au fost introduse măsuri suplimentare pentru a preveni repetarea unor astfel de situații și și-a exprimat regretul pentru incident.
Chatboții, tot mai prezenți în relația dintre companii și clienți
În ultimii ani, inteligența artificială a devenit tot mai prezentă în serviciile de relații cu clienții. Bănci, companii de telecomunicații, magazine online și alte organizații folosesc asistenți virtuali pentru a răspunde rapid la întrebări și pentru a automatiza o parte dintre solicitările primite.
Astfel de sisteme sunt concepute să ofere răspunsuri într-un timp scurt și să gestioneze un număr mare de conversații simultan. Totuși, incidentele de acest tip arată că modul în care inteligența artificială reacționează la interacțiuni neobișnuite poate necesita monitorizare și ajustări constante.
În cazul de față, banca susține că a intervenit asupra sistemului și a introdus filtre suplimentare pentru ca asistentul virtual să nu mai poată genera răspunsuri jignitoare, indiferent de tonul folosit de utilizator.
