La proces, părinții au afirmat că ChatGPT i-a oferit fiului lor instrucţiuni detaliate despre sinucidere, punând profitul mai presus de siguranţă. De asemenea, chatbot-ul s-a oferit să îi redacteze tânărului un bilet de adio şi să ascundă dovezi despre o altă tentativă de sinucidere a acestuia, scrie MenaFN.
Procesul acuză OpenAI de „moarte din culpă”, defecte de design și lipsa avertismentelor privind riscurile asociate cu utilizarea chatbotului.
Acesta este primul caz cunoscut în care un dezvoltator de inteligență artificială este acuzat pentru moartea unui minor.
Avocații familiei cer daune și măsuri urgente, precum introducerea unui mecanism de verificare a vârstei utilizatorilor, precum și a unor protocoale automate care să întrerupă conversațiile ce implică autovătămarea.
OpenAI a precizat că ChatGPT include măsuri de protecție, dar acestea pot deveni mai puțin eficiente în conversații lungi sau complexe
Cazul ridică întrebări serioase despre responsabilitatea companiilor tech în fața vulnerabilităților emoționale ale utilizatorilor, mai ales adolescenți.
