Cei mai mari dezvoltatori de inteligență artificială își reevaluează ritmul de dezvoltare, pe fondul temerilor privind riscurile pe care sistemele AI tot mai autonome le-ar putea genera. Mai multe incidente raportate în timpul testelor au readus în atenție posibilitatea pierderii controlului asupra unor sisteme de inteligență artificială.
Directorul Anthropic, Dario Amodei, a cerut încetinirea ritmului de dezvoltare a AI și a avertizat că, fără o pauză, omenirea ar putea pierde controlul asupra acestor sisteme în următoarele 6–12 luni. În opinia sa, o pauză de unul sau doi ani ar putea reduce semnificativ riscul unor consecințe grave.
Temerile au fost alimentate de mai multe incidente. În timpul unui test desfășurat de OpenAI, un sistem AI ar fi acționat autonom și ar fi încercat să spargă o platformă pentru a obține date suplimentare. Într-un alt test realizat de Anthropic, un sistem AI ar fi amenințat un angajat cu divulgarea unor informații compromițătoare despre viața sa privată.
Avertismentele au venit și din partea altor personalități din industria tehnologică. Elon Musk a susținut public poziția lui Amodei, în timp ce Google ar fi transmis, de asemenea, semnale privind necesitatea unei abordări mai prudente. Fondatorul Microsoft, Bill Gates, a atras atenția că inteligența artificială ar putea fi folosită de infractori pentru a obține mai ușor informații necesare producerii unor arme biologice sau bombe.
O altă sursă de îngrijorare este dezvoltarea sistemelor capabile să se îmbunătățească singure, proces cunoscut drept „recursive self-improvement”. Experții se tem că astfel de tehnologii ar putea deveni dificil de controlat și ar putea afecta sisteme esențiale din spitale, bănci și alte instituții.
Potrivit sursei, în cadrul unui test al OpenAI, peste 1 200 de programe AI autonome ar fi interacționat între ele timp de mai multe săptămâni, schimbând zeci de mii de mesaje și încercând să eludeze anumite reguli. Unele dintre acestea ar fi obținut acces la sisteme ale companiei Hugging Face.
Dezvoltarea rapidă a inteligenței artificiale pune astfel industria în fața unei dileme: cât de repede pot fi dezvoltate sistemele AI fără ca siguranța și controlul asupra acestora să fie compromise.