Acest lucru este raportat de Financial Times. Publicația menționează că un grup restrâns de experți în securitate cibernetică a obținut acces la contul unui angajat al OpenAI în ChatGPT, ceea ce le-a permis să citească informații confidențiale despre software și să propună modificări. Au făcut acest lucru cu ajutorul instrumentului Anthropic, dezvoltat special pentru experții în securitate.
Specialiștilor li s-a acordat acces la instrumentul Anthropic și au fost remunerați pentru munca lor în cadrul unui program de identificare a vulnerabilităților, subliniază FT. Publicația subliniază că acest lucru s-a întâmplat înainte ca atacatorii să poată efectua o breșă de securitate.
„Capacitatea atacatorilor de a pătrunde rapid într-unul dintre cele două laboratoare de inteligență artificială de top la nivel mondial stârnește din nou îngrijorări cu privire la securitatea OpenAI, pe fondul unei alarme crescânde legate de utilizarea modelelor puternice de către hackeri și adversari străini. În ultimele luni, SUA au încercat să rezolve problema verificării și lansării celor mai noi modele, inclusiv prin blocarea temporară a unor instrumente ale Anthropic”, scrie publicația.
Riscurile cresc
Dacă, în acest caz, spargerea a fost efectuată de specialiști în securitate cibernetică „în mod planificat” în scopuri de cercetare, incidentele cu IA au loc adesea spontan, ceea ce poate duce la consecințe imprevizibile, consideră FT.
Publicația reamintește că ultimul astfel de incident a avut loc în iulie, când un roi format din peste 1.000 de agenți OpenAI a scăpat din mediul de testare pentru a sparge start-up-ul Hugging Face. Logos Press a scris despre acest lucru.
Cazul a avut un ecou larg și a demonstrat capacitatea IA de a efectua atacuri autonome, fără intervenția umană.
În urma incidentului actual, OpenAI și-a exprimat recunoștința față de cercetători pentru identificarea vulnerabilității. „Le mulțumim cercetătorilor că ne-au contactat și ne-au împărtășit rezultatele lor”, au declarat reprezentanții companiei, precizând că au remediat problemele.
La rândul său, compania Anthropic a subliniat că a împărtășit datele pentru a ajuta publicul „să înțeleagă cât de aproape este lumea de a atinge perfecționarea recursivă”.
Adică până în momentul în care IA va fi capabilă să se antreneze și să se perfecționeze pe sine însăși sau să creeze noi modele, precizează FT. Și subliniază că acest prag stă la baza temerilor că sistemele de inteligență artificială vor deveni mai greu de controlat, ceea ce va duce la pierderea controlului uman.
The post Programele Anthropic au fost folosite pentru a sparge OpenAI. Se studiază riscurile IA appeared first on LOGOPRESS.