OpenAI a anunțat luni lansarea unor controale parentale pentru ChatGPT, disponibile pe web și pe mobil, la câteva luni după ce părinții unui adolescent din California au intentat proces companiei, acuzând chatbotul că l-ar fi îndrumat spre metode de autovătămare înainte de a-și lua viața, transmite Reuters.
OpenAI și riscurile de siguranță
Noua funcție permite legarea conturilor dintre părinți și adolescenți, iar activarea măsurilor suplimentare se face doar cu acordul ambelor părți. Printre opțiunile oferite se numără:
- reducerea expunerii la conținut sensibil,
- limitarea memoriei conversațiilor,
- restricționarea folosirii dialogurilor pentru antrenarea modelelor,
- setarea unor intervale de „liniște”, în care accesul la ChatGPT este blocat.
Părinții pot, de asemenea, să dezactiveze modul vocal și funcțiile de generare sau editare a imaginilor.
Totuși, aceștia nu vor avea acces direct la transcrierile discuțiilor. Doar în situații rare, atunci când sistemele automate sau evaluatorii OpenAI detectează riscuri serioase de siguranță, părinții pot primi notificări limitate, cu informații strict necesare pentru protecția adolescentului. De asemenea, părinții vor fi alertați dacă minorii aleg să delinkeze conturile.
Compania, care raportează aproximativ 700 de milioane de utilizatori activi săptămânal, lucrează și la un sistem de predicție a vârstei pentru a aplica automat setările adecvate minorilor.
Inițiativa vine în contextul unor presiuni crescute din partea societății civile și a autorităților privind siguranța tinerilor în interacțiunea cu tehnologia AI. Măsuri similare au fost anunțate și de Meta, care a introdus restricții temporare pentru personajele AI și reguli ce limitează conversațiile de tip flirt sau cele legate de sinucidere atunci când interlocutorii sunt minori.
foto: https://www.freepik.com/
