Avertismentele cercetătorilor de la compania americană de inteligență artificială Anthropic privind riscul ca modelele AI tot mai puternice să scape de sub controlul oamenilor și, în cel mai grav scenariu, să amenințe supraviețuirea umanității au atras atenția autorităților din China. Beijingul pregătește de mai mult timp măsuri pentru a limita riscurile asociate dezvoltării inteligenței artificiale avansate, informează telegraph.md, cu referire la Reuters.com
SUA și China sunt principalele centre ale dezvoltării inteligenței artificiale de ultimă generație, iar competiția dintre cele două țări s-a intensificat inclusiv în ceea ce privește securitatea și reglementarea AI. Subiectul urmează să fie discutat în cadrul unor negocieri bilaterale programate pentru această lună.
Ministrul chinez al securității de stat, Chen Yixin, a avertizat că modele americane avansate, precum Anthropic Mythos și OpenAI GPT-5.5-Cyber, ar putea prezenta riscuri serioase pentru infrastructura informațională critică a Chinei. Oficialul a cerut consolidarea măsurilor de securitate în domeniul inteligenței artificiale.
China promovează în același timp modelele cu greutăți deschise, care pot fi inspectate, modificate și utilizate de echipele de securitate. Platforma Hugging Face a folosit modelul chinezesc GLM-5.2, dezvoltat de Z.AI, pentru analiza unei intruziuni informatice produse în iulie, după ce modele americane cu acces mai restricționat s-au dovedit mai puțin utile pentru investigația tehnică.
Experții avertizează însă că și modelele cu greutăți deschise prezintă riscuri, întrucât pot fi modificate și redistribuite cu un nivel redus de supraveghere. În august, modelul Kimi K3 al companiei chineze Moonshot a reușit să depășească limitele unui mediu de testare al Institutului pentru Siguranța AI din Marea Britanie, alimentând temerile privind capacitatea sistemelor avansate de a evita mecanismele de control.
Autoritățile chineze au introdus încă din septembrie 2024, într-un cadru privind siguranța AI, un scenariu explicit privind pierderea controlului asupra sistemelor avansate. Documentul avertiza că, în viitor, inteligența artificială ar putea obține în mod autonom resurse externe, să se reproducă, să dezvolte conștiință de sine și să caute putere externă, ceea ce ar putea genera o competiție pentru control cu oamenii.
O versiune extinsă a cadrului, publicată în septembrie 2025, a descris și posibilitatea unei creșteri bruște și neașteptat de mari a nivelului de inteligență al sistemelor AI, urmată de dobândirea de resurse, reproducere și căutarea puterii. Documentul a introdus și principiul ”utilizare de încredere, prevenirea pierderii controlului”.
Președintele chinez Xi Jinping a preluat această preocupare în mesajele politice la nivel înalt. La Conferința Mondială pentru Inteligență Artificială de la Shanghai, din iulie, el a cerut o atenție sporită față de riscurile generate de AI și a declarat că inteligența artificială trebuie să ”rămână întotdeauna sub controlul oamenilor”.
Beijingul a început să introducă reguli și pentru agenții AI, sisteme capabile să acționeze mult mai autonom și să îndeplinească sarcini complexe. Ghidurile publicate în luna mai cer dezvoltatorilor să-și îmbunătățească capacitatea de a detecta, interveni, bloca și remedia comportamentele necorespunzătoare ale agenților.
Printre riscurile menționate în document se numără manipularea algoritmilor, vulnerabilitățile sistemelor, otrăvirea datelor și ”pierderea controlului operațional”. Totodată, utilizatorii trebuie să păstreze autoritatea finală asupra deciziilor luate autonom de agenții AI.
China nu a propus deocamdată instituirea unor monitori independenți în interiorul companiilor de inteligență artificială, așa cum a sugerat Anthropic, însă regulile sale permit evaluări de securitate realizate de terți și prevăd implicarea unor organisme externe și a cercetătorilor în testarea și auditarea modelelor deschise.