Decizia vine în contextul extinderii unui sistem de age-gating și al dorinței companiei de a „trata utilizatorii adulți ca pe adulți”, după ce până acum chatbotul a avut restricții stricte asupra discuțiilor de natură sexuală.
Context și motivație
Până acum, OpenAI impunea limite stricte în ceea ce privește conținutul erotic sau sugestiv, din dorința de a proteja utilizatorii vulnerabili, mai ales pe cei tineri și cei cu probleme de sănătate mintală. Altman a declarat că aceste restricții au făcut ChatGPT „mai puțin util și plăcut pentru mulți utilizatori care nu aveau probleme mintale”.
Recent, OpenAI a dezvoltat „noile instrumente” care permit detectarea mai eficientă a momentelor de suferință mintală și moderarea mai adaptată a răspunsurilor, ceea ce, potrivit companiei, justifică relaxarea parțială a restricțiilor.
Cine va putea folosi opțiunea și când apare sexting-ul AI
Funcția va fi disponibilă doar pentru utilizatorii adulți verificați care își dovedesc vârsta, odată ce sistemul de verificare a vârstei va fi complet implementat în decembrie.
Conținutul erotic va fi opțional și activat doar la cererea explicită a utilizatorului, nu va fi impus automat.
În același timp, OpenAI lucrează și la o versiune îmbunătățită a ChatGPT care va permite personalizări mai mari: utilizatorii vor putea alege cum vrea să răspundă chatbotul (ton mai uman, folosirea emoji-urilor, comportament mai prietenos etc.).
De asemenea, compania va păstra măsuri stricte de protecție, asigurându-se că minorii nu au acces la aceste funcționalități.
Critici, îngrijorări și provocări
Anunțul a generat reacții mixte. Pe de o parte, unii susținători ai libertății de exprimare consideră pasul ca fiind rezonabil, dar criticii avertizează că verificarea vârstei poate fi compromisă și că minorii ar putea accesa conținut erotic în mod fraudulos. De exemplu, Mark Cuban a avertizat că sistemul „va da greș” și că părinții nu vor mai avea încredere.
O altă preocupare este impactul asupra sănătății mintale: unii specialiști se întreabă dacă permiterea sexting-ului cu un chatbot nu va spori dependența emoțională de AI sau nu va alimenta relații distructive cu inteligența artificială.
Un aspect tehnic esențial rămâne modul în care se va face în practică verificarea vârstei — va fi nevoie de documente de identitate, sisteme biometrice sau predicția comportamentală? OpenAI spune că, în caz de incertitudine, va aplica experiența destinată minorilor până la confirmare.
