Un avocat din Statele Unite a fost sancționat după ce a folosit ChatGPT pentru pregătirea unui apel într-un dosar de crimă, iar documentul ajuns ulterior în instanță conținea informații inventate de inteligența artificială. Printre acestea se aflau mărturii atribuite unor polițiști și declarații ale unor martori care, în realitate, nu existau.
Cazul a ajuns în atenția Curții Supreme din New Mexico, care a considerat situația deosebit de gravă. Avocatul Stephen Aarons a primit o amendă de 5.000 de dolari și a fost sancționat pentru sfidarea instanței.
Potrivit instanței, documentul depus de avocat în cadrul procedurii de apel conținea mărturii false și referințe la martori complet inventați.
Printre informațiile generate artificial se număra și o descriere potrivit căreia presupusul autor al crimei ar fi purtat pantaloni de culoare închisă și o cămașă albă.
Judecătorii au dorit să afle cum au ajuns aceste afirmații într-un document oficial prezentat instanței. Problema principală nu a fost doar existența unor erori, ci faptul că informațiile generate de AI nu fuseseră verificate înainte de a fi folosite într-o procedură judiciară.
Avocatul a recunoscut că a folosit ChatGPT
Stephen Aarons le-a explicat judecătorilor că a apelat la ChatGPT atunci când a preluat cazul clientului său, anul trecut.
Avocatul ar fi introdus în sistem o transcriere generată automat a procesului, împreună cu alte materiale din dosar, și i-ar fi cerut instrumentului de inteligență artificială să le sintetizeze.
Aarons a declarat că nu și-a dat seama de amploarea fenomenului cunoscut drept „halucinație AI”, prin care un sistem de inteligență artificială poate genera informații care par credibile, dar sunt complet false.
El și-a exprimat regretul pentru situația creată și a susținut că a fost vorba despre o greșeală sinceră, arată Reuters.
Judecătorii, revoltați de lipsa verificărilor
Reacția Curții Supreme din New Mexico a fost dură. Judecătorii au criticat faptul că avocatul nu a verificat informațiile furnizate de instrumentul AI înainte ca acestea să fie incluse într-un document oficial.
Unul dintre magistrați a remarcat că riscurile legate de folosirea necontrolată a inteligenței artificiale de către avocați sunt deja intens discutate în spațiul public.
Instanța a apreciat, de asemenea, că atitudinea avocatului a demonstrat lipsă de remușcare și de preocupare față de propriul client.
Cazul urmează să fie transmis și unui organism disciplinar al avocaților, care va analiza conduita lui Aarons și eventualele măsuri suplimentare.
Tot mai multe probleme provocate de inteligența artificială în instanțe
Situația din New Mexico nu este una izolată. În ultimii ani, mai mulți avocați au fost sancționați după ce au introdus în documente juridice informații generate de instrumente AI fără să le verifice.
În alte cazuri, inteligența artificială a inventat hotărâri judecătorești, citări sau prevederi legale inexistente. Astfel de situații au determinat instanțele să atragă atenția asupra responsabilității profesioniștilor care folosesc asemenea instrumente.
Dosarul din New Mexico este însă considerat cu atât mai grav cu cât nu au fost inventate doar referințe juridice, ci și martori și mărturii.
Clientul avocatului fusese condamnat la închisoare pe viață
Aarons pregătea apelul unui bărbat condamnat anul trecut la închisoare pe viață pentru uciderea mamei copiilor săi. În timpul procesului, acesta își susținuse nevinovăția.
Într-un asemenea dosar, acuratețea documentelor depuse în instanță este esențială. Cazul demonstrează astfel unul dintre riscurile majore ale utilizării inteligenței artificiale în domeniul juridic: un răspuns formulat convingător de un chatbot nu reprezintă, prin el însuși, o dovadă că informația este reală.
