Inteligența artificială a dat-o pe mâna poliției. Femeia s-a trezit cu dosar penal după o conversație cu chatbotul

Carli Michelle Heller, în vârstă de 30 de ani, din Bonita Springs, a fost arestată după ce mesajele pe care le-ar fi trimis lui Claude, chatbotul dezvoltat de Anthropic, au fost considerate de sistemele companiei drept o posibilă amenințare.

Cazul a pornit de la o conversație pe care femeia ar fi folosit-o, potrivit propriei explicații date ulterior autorităților, ca pe un fel de jurnal personal. Într-unul dintre mesajele trimise pe 26 septembrie, ea ar fi vorbit despre intenția de a ataca sediul Biroului Șerifului din comitatul Lee.

Mesajele nu au rămas însă doar între utilizatoare și chatbot. Sistemele de siguranță ale lui Claude au detectat conținutul, conversația a ajuns la o echipă umană pentru verificare, iar Anthropic a alertat ulterior autoritățile. Femeia a fost găsită la domiciliu și reținută fără incidente, scrie Tech Spot.

Mesajul care a declanșat alerta Anthropic

Potrivit raportului de arestare citat de presa americană, femeia ar fi transmis pe 26 septembrie un mesaj în care spunea că intenționează să deschidă focul asupra biroului șerifului. Mesajul ar fi fost trimis în jurul orei 5:10 dimineața.

În ziua următoare, conversația ar fi continuat cu un alt mesaj în care utilizatoarea susținea că își procurase o armă nouă și descria situația drept ultima sa șansă. Aceste mesaje au fost considerate suficient de grave pentru ca sistemele de siguranță ale platformei să le marcheze și să le trimită mai departe pentru o verificare umană.

Relatările publicate de presa de specialitate și de publicații internaționale indică faptul că amenințările nu au fost transmise direct poliției de chatbot. Mai întâi, sistemele automate ale platformei au identificat conținutul, după care acesta a fost analizat de o echipă umană. În urma verificării, Anthropic a sesizat autoritățile.

Femeia spune că folosea Claude ca pe un jurnal

După ce a fost identificată de autorități, Heller ar fi explicat că nu folosea Claude pentru a pune la cale un atac, ci ca pe un jurnal în care își nota gândurile.

Explicația nu a împiedicat însă autoritățile să trateze mesajele ca pe o posibilă amenințare reală. Polițiștii au mers la locuința femeii din Bonita Springs, unde au reținut-o fără incidente. Ulterior, investigația a fost preluată de un detectiv specializat în informații din cadrul Biroului Șerifului din comitatul Lee.

Anthropic monitorizează mesajele pentru amenințări grave

Raportul de arestare citat de presa americană precizează că platforma Anthropic utilizează măsuri de siguranță și securitate pentru identificarea unor expresii-cheie și a unor tipuri de conținut care pot indica amenințări.

În cazul de față, gravitatea mesajelor ar fi determinat escaladarea automată către o echipă umană. După analizarea conversației, echipa a transmis informațiile către forțele de ordine.

Anthropic confirmă, la nivel de politică, că există situații în care datele utilizatorilor pot fi furnizate autorităților fără parcurgerea procedurii obișnuite. Politica oficială a companiei prevede că, în mod normal, informațiile despre utilizatori nu sunt divulgate ca răspuns la solicitări guvernamentale decât în baza unui proces legal valid, precum un mandat sau o citație.

Există însă o excepție pentru situațiile de urgență în care Anthropic consideră că poate exista un risc iminent de vătămare fizică sau deces, iar furnizarea rapidă a informațiilor poate contribui la prevenirea situației.

Ce acuzație riscă femeia din Florida

Pe 30 septembrie, autoritățile au formulat împotriva lui Heller o acuzație penală în baza legislației din Florida privind amenințările scrise sau electronice.

Este vorba despre o infracțiune care vizează transmiterea unor mesaje prin care este amenințată uciderea sau rănirea unei persoane, comiterea unui atac armat în masă ori a unui act de terorism. Potrivit relatărilor despre dosar, acuzația este una de gradul al doilea.

Femeii i-a fost desemnat un avocat din oficiu, iar următoarea audiere este programată pentru 2 noiembrie.

Acuzațiile formulate de autorități reprezintă acuzații aflate în curs de judecare, iar informațiile din raportul de arestare descriu ceea ce anchetatorii susțin că s-a întâmplat.

Un chatbot care nu funcționează ca un jurnal personal

Cazul din Florida readuce în atenție problema confidențialității conversațiilor purtate cu sistemele de inteligență artificială. Deși utilizatorul poate avea impresia că discută într-un spațiu privat cu un chatbot, mesajele pot fi supuse unor sisteme automate de siguranță și, în anumite situații, pot ajunge la evaluatori umani.

În cazul lui Heller, tocmai această combinație dintre monitorizarea automată și verificarea umană a dus la sesizarea autorităților după mesajele despre un posibil atac asupra sediului șerifului. TechSpot notează că mesajele au fost marcate de sistemele de siguranță ale lui Claude și apoi analizate de un evaluator uman înainte ca informațiile să fie transmise poliției.

Politica Anthropic precizează, de asemenea, că în cazul solicitărilor guvernamentale obișnuite compania verifică dacă acestea respectă cerințele legale și poate respinge cereri prea largi sau neclare. În situații de urgență, însă, regula privind notificarea utilizatorului poate avea excepții.

În acest caz, conversația care fusese folosită de femeie drept ceea ce ea a descris ca un „jurnal” a ajuns astfel în atenția unei echipe umane de la Anthropic, apoi a poliției și, în cele din urmă, în centrul unei anchete penale.