Instituția chineză de reglementare în mediul online a publicat un proiect supus dezbaterii publice care prevede întărirea supravegherii serviciilor de inteligență artificială capabile să simuleze personalitatea umană și să interacționeze emoțional cu utilizatorii.
Măsura vizează produsele și serviciile AI oferite publicului în China care reproduc trăsături de personalitate, modele de gândire și stiluri de comunicare umane, în contextul extinderii rapide a utilizării inteligenței artificiale.
Potrivit proiectului, furnizorii vor fi obligați să avertizeze utilizatorii asupra folosirii excesive a acestor servicii și să intervină atunci când apar semne de dependență. Interacțiunea emoțională realizată prin text, imagini, conținut audio-video sau alte mijloace este considerată un potențial risc psihologic.
Regulile propuse impun furnizorilor responsabilitatea pentru siguranța produsului pe întreg ciclul său de viață, inclusiv prin evaluarea algoritmilor și protejarea datelor cu caracter personal. De asemenea, aceștia vor trebui să identifice starea mentală a utilizatorilor și nivelul de dependență față de serviciile AI.
În cazurile în care sunt detectate emoții extreme sau comportamente de dependență, furnizorii vor fi obligați să intervină și să aplice măsuri corespunzătoare pentru protejarea utilizatorilor.
Proiectul stabilește și limite clare privind conținutul, interzicând materialele care amenință securitatea națională, răspândesc zvonuri sau promovează violența și obscenitatea. Autoritățile chineze susțin că noile reglementări vor crea un cadru mai sigur și mai etic pentru utilizarea inteligenței artificiale în relația cu publicul.