Această măsură vine într-un moment în care companiile din domeniul Inteligenței Artificiale (AI) se confruntă cu o atenție tot mai mare asupra riscurilor pe care chatbot-urile le prezintă pentru utilizatorii tineri și asupra rolului companiilor în detectarea amenințărilor de vătămare, potrivit Reuters.
Informațiile practice despre arme și sisteme de securitate care ar putea fi utilizate în mod abuziv vor fi restricționate, chiar și atunci când nu există semne de intenție violentă.
Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care cineva pare să fie obsedat de violență, iar OpenAI poate suspenda temporar conturile după mai multe astfel de conversații.
În comunicatul publicat, vineri, compania a mai precizat că și-a îmbunătățit sistemul de estimare a vârstei pentru a redirecționa utilizatorii pe care îi estimează a avea sub 18 ani către experiența destinată adolescenților, dar și că intenționează să notifice părinții în cazul în care contul adolescentului lor este suspendat pentru discutarea repetată a violenței.
Pentru toți utilizatorii, OpenAI va limita informații cu privire la atacurile armate din trecut, în special cele în masă. Printre detaliile care vor fi limitate se află informații despre armele folosite, dar și modul în care acestea au fost obținute.
Potrivit companiei, implementarea noilor măsuri de protecție va începe în următoarele câteva săptămâni. De asemenea, acestea vor fi perfecționate continuu.
La începutul acestei luni, compania OpenAI a precizat că adolescenții, petrec, în medie, sub 15 minute pe zi pe ChatGPT, conform primului său raport privind utilizarea platformei de către adolescenți.
Potrivit unui raport al ONG-ului Common Sense Media, publicat la începutul lunii octomrie, versiunea pentru adolescenți a ChatGPT adesea îi avertiza pe părinți prea târziu sau deloc atunci când conturile adolescenților purtau conversații despre sinucidere, automutilare sau tulburări alimentare.