OpenAI, companie susținută de Microsoft, introduce controale parentale pentru ChatGPT pe web și mobil, după un proces intentat de părinții unui adolescent care s-a sinucis, acuzând că chatbotul companiei i-ar fi oferit sfaturi legate de metode de auto-vătămare.
Noile opțiuni permit părinților și adolescenților să activeze măsuri de protecție suplimentare prin conectarea conturilor, activarea făcându-se doar dacă ambele părți acceptă invitația, a precizat compania.
Autoritățile de reglementare din SUA analizează tot mai atent companiile de inteligență artificială din cauza riscurilor pe care le pot genera chatboții.
În august, Reuters relata că regulile AI ale Meta permiteau conversații cu tentă sexuală cu minori.
Potrivit OpenAI, noile controale le vor permite părinților să reducă expunerea la conținut sensibil, să decidă dacă ChatGPT își amintește conversațiile anterioare și dacă discuțiile pot fi folosite pentru antrenarea modelelor companiei.
Părinții vor putea, de asemenea, să stabilească intervale orare de pauză în care accesul este blocat și să dezactiveze modul vocal, precum și funcțiile de generare și editare a imaginilor. Totuși, aceștia nu vor avea acces la transcrierile discuțiilor copiilor.
În cazuri rare, când sistemele sau evaluatorii umani detectează un risc grav de siguranță, părinții pot fi notificați, primind doar informațiile strict necesare pentru protejarea adolescentului.
De asemenea, vor fi informați dacă minorul deconectează conturile.
OpenAI, care are aproximativ 700 milioane de utilizatori activi săptămânal pentru produsele ChatGPT, dezvoltă și un sistem de predicție a vârstei pentru a identifica utilizatorii sub 18 ani, astfel încât să fie aplicate automat setările potrivite adolescenților.
Meta a anunțat trecută că va introduce noi măsuri de protecție pentru adolescenți în produsele sale AI.
Compania a precizat că își va antrena sistemele pentru a evita conversațiile de tip flirt și discuțiile despre auto-vătămare sau sinucidere cu minori și că va restricționa temporar accesul la anumite caracteristici ale AI.
