Conversațiile cu ChatGPT pot fi analizate de evaluatori umani, potrivit unei investigații 404 Media. Ce este Project Lily și cum poți limita folosirea datelor.
Utilizatorii ChatGPT ar trebui să trateze cu atenție informațiile sensibile introduse în conversații. Un material publicat de 404 Media arată că OpenAI folosește sute de colaboratori care analizează dialoguri reale dintre oameni și chatbot, în cadrul unui program intern denumit „Project Lily”.
Potrivit investigației, evaluatorii citesc solicitări formulate de utilizatori și verifică modul în care ChatGPT răspunde. În anumite situații, aceștia pot avea acces la conversații complete, care pot conține informații personale, detalii despre sănătate, muncă, familie sau situația financiară a utilizatorilor.
OpenAI susține că aplică un filtru automat de confidențialitate înainte ca mesajele să fie trimise spre evaluare umană. Sistemul are rolul de a elimina sau masca datele care pot identifica direct o persoană, precum numele, adresele, numerele de telefon sau alte elemente similare. Totuși, documentele citate de 404 Media indică faptul că filtrul nu poate detecta în toate cazurile informațiile personale, mai ales când acestea apar indirect sau depind de context.
Ce este „Project Lily”
„Project Lily” este numele de cod al unei inițiative prin care OpenAI ar evalua răspunsurile generate de ChatGPT cu ajutorul unor persoane reale. Contractorii trebuie să identifice intenția utilizatorului, să compare răspunsurile oferite de model și să acorde calificative pentru calitatea acestora.
Un obiectiv important al proiectului ar fi reducerea tendinței ChatGPT de a răspunde excesiv de aprobator, de a flata utilizatorul sau de a se prezenta într-un mod prea apropiat de comportamentul uman. Evaluatorii pot semnala, de asemenea, răspunsuri inexacte, tonuri nepotrivite ori lipsa unor explicații relevante.
Conform relatării 404 Media, colaboratorii implicați în acest proces sunt recrutați inclusiv prin platforma Crossing Hurdles, iar plățile sunt gestionate prin Mercor.
De ce ridică situația semne de întrebare
Folosirea evaluatorilor umani pentru îmbunătățirea sistemelor de inteligență artificială nu este, în sine, o practică neobișnuită. Problema semnalată de critici este legată de așteptările utilizatorilor privind caracterul privat al conversațiilor purtate cu un chatbot.
Mulți oameni folosesc ChatGPT pentru a formula documente personale, pentru a cere sfaturi despre sănătate, relații sau carieră, pentru a analiza probleme profesionale ori pentru a redacta texte care pot include date confidențiale. În aceste condiții, riscul ca anumite detalii să treacă de filtrul automat și să fie văzute de un evaluator devine o preocupare importantă.
De asemenea, faptul că numele contului nu este afișat nu garantează automat anonimatul complet. O conversație poate include suficiente indicii, locul de muncă, orașul, o situație familială, un diagnostic, un număr de dosar sau informații despre o companie, pentru ca persoana să poată fi identificată indirect.
Cum poți limita folosirea conversațiilor
OpenAI le permite utilizatorilor să oprească folosirea noilor conversații pentru îmbunătățirea modelelor. Opțiunea este disponibilă în ChatGPT, la Settings / Data Controls, prin dezactivarea funcției „Improve the model for everyone”. După modificarea setării, conversațiile noi pot rămâne în istoric, însă nu ar trebui utilizate pentru antrenarea modelelor.
O altă variantă este funcția Temporary Chat. Conversațiile temporare nu apar în istoric, nu generează memorii și nu sunt folosite pentru îmbunătățirea modelelor. OpenAI precizează însă că acestea pot fi păstrate timp de până la 30 de zile în scopuri de siguranță și pot fi analizate limitat pentru prevenirea abuzurilor.
Până la clarificări suplimentare privind amploarea „Project Lily”, regula de bază rămâne simplă: evită să introduci în ChatGPT parole, date bancare, copii ale actelor, informații medicale identificabile, secrete profesionale sau alte date pe care nu ai vrea să le vadă o persoană din afara cercului tău de încredere.
