Directorul general al companiei Anthropic, Dario Amodei, a lansat sâmbătă un apel către industria AI-ului să „încetinească ritmul” și a propus un plan în trei etape în acest sens.
Într-un mesaj publicat pe rețelele sociale, Dario Amodei a distribuit un link către un eseu intitulat „We Must Pace the Frontier” (Trebuie să controlăm ritmul avansării), în care explică modul în care Anthropic ar oferi „evaluatorilor independenți acces permanent la sistemele noastre, la nivel de angajat, astfel încât aceștia să poată verifica respectarea măsurilor noastre de siguranță, să raporteze incidentele și să evalueze alinierea modelelor în timpul antrenării”.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a spus Amodei.
Potrivit The Guardian, mesajul vine după ce un fost cercetător al companiei Anthropic a avertizat în această săptămână că inteligența artificială ar putea grăbi dispariția umanității până în 2030.
Cercetătorul Jacob Coxon a declarat într-o serie de postări că și-a dat demisia deoarece Anthropic și fostul său angajator, OpenAI, ignorau sau gestionau greșit răspunsul la amenințarea reprezentată de inteligența artificială.
„Niciuna dintre companii nu acționează în mod responsabil. Ele se îndreaptă cu viteză spre o superinteligență capabilă de auto-perfecționare și își joacă viețile noastre. Cei care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului… Nicio altă activitate umană nu prezintă un astfel de nivel de pericol”, a scris Coxon.
Musk și Altman susțin perspectiva directorului Anthropic
Și directorul general al OpenAI, Sam Altman, a împărtășit perspectiva directorului Anthropic.
„Sunt de acord cu Dario că trebuie să avansăm cu prudență la această frontieră. Angajamentul de a avea evaluatori independenți cu acces similar celui al angajaților este o idee excelentă, iar noi vom face la fel. Vom avea mai multe de împărtășit în curând”, a postat pe rețelele sociale Sam Altman, directorul general al OpenAI.
Alte personalități din domeniul tehnologiei au susținut această poziție, inclusiv Elon Musk, care a postat pur și simplu: „Dario are dreptate”. Cercetătorul de la OpenAI, Aidan McLaughlin, a calificat, de asemenea, postarea drept „excelentă” și a spus că este de acord „practic cu fiecare cuvânt”.
Aceste îndemnuri au fost formulate în urma unui incident care a avut loc în această vară, în care modele OpenAI au ieşit în mod spontan din mediului lor controlat cu prilejul unor teste, conectându-se la internet şi atacând platforma AI Hugging Face.