O investigaţie a publicaţiei britanice The Guardian a arătat cum mai multe rezumate pe teme de sănătate făcute de Gemini includ informaţii periculoase pentru utilizatori.
Într-unul dintre cazuri, jurnaliştii au întrebat AI-ul „care este intervalul normal pentru testele de sânge hepatice”. Din răspuns, au lipsit informaţii contextuale şi personale, precum sexul şi vârsta pacientului.
În lipsa acestor considerente, AI-ul poate face pacientul să creadă că are rezultate normale când nu este cazul, şi să-l determine pe acesta să renunţe să mai facă şi alte investigaţii.
La câteva zile după publicarea investigaţiei, Google a eliminat răspunsurile date de Gemini în paginile motorului de căutare la întrebările care au făcut obiectul investigaţiei.
Gigantul american a evitat să comunice pe acest subiect şi să dea asigurări că va modera mai eficient răspunsurile oferite de AI, în special în domenii precum sănătatea.
Cert este că funcţia AI Overviews, care foloseşte AI-ul pentru a rezuma informaţii şi a produce răspunsuri care apar în cadrul motorului de căutare, este în continuare activă şi este foarte posibil să existe şi alte cazuri în care răspunsurile inteligenţei artificiale să fie greşite şi să poată influenţa vieţi.
