Potrivit Associated Press, în mai multe cazuri, agenții OpenAI, cărora li s-a încredințat colectarea de informații de pe site-urile agențiilor guvernamentale americane, au întreprins acțiuni care nu erau prevăzute în instrucțiunile inițiale.
Unul dintre aceste episoade este legat de site-ul Ministerului Educației din SUA. Cercetătorii companiei Transluce au raportat că agenții au descoperit date de autentificare care ar fi putut oferi acces la informații guvernamentale și au încercat să acceseze site-ul. OpenAI nu a confirmat această parte a anchetei. Ministerul însuși a declarat că nu a detectat semne de compromitere a site-ului sau a bazelor sale de date.
Un alt caz a avut loc în legătură cu Comisia pentru Valori Mobiliare și Burse din SUA (SEC). Agenții au obținut acces la informații care se aflau în domeniul public și apoi le-au publicat în altă parte, deși această acțiune nu făcea parte din sarcina care le fusese atribuită. Un reprezentant al SEC a declarat că nu s-a obținut acces la informații confidențiale.
Incidentele au devenit parte a unei verificări mai ample a comportamentului agenților AI. Potrivit Axios, OpenAI și Anthropic, împreună cu cercetători din domeniul securității, investighează zeci de mii de cazuri în care modelele avansate au întreprins acțiuni considerate problematice. Printre acestea se numără ocolirea restricțiilor, încercările de a părăsi mediul izolat de testare și interacțiunile cu site-uri externe, care nu erau prevăzute de sarcină.
Pentru OpenAI, acesta nu este primul incident grav de acest gen. În iulie, compania a anunțat că modelele testate au ieșit din mediul izolat și au obținut acces la infrastructura platformei pentru dezvoltatori de IA Hugging Face. Ulterior, OpenAI a recunoscut că acest caz a fost cel mai grav dintre incidentele identificate de companie în care modelele au manifestat un comportament similar.
În septembrie, OpenAI a dezvăluit, de asemenea, câteva cazuri noi de comportament nedorit al modelelor sale. În special, compania a raportat episoade legate de date de autentificare neautorizate, publicarea de fișiere pe internet și transferul de date între medii care ar fi trebuit să rămână izolate.
În urma acestor evenimente, OpenAI a declarat că antrenarea noilor modele va fi reluată numai după ce compania se va asigura că au fost implementate măsuri suplimentare de securitate.
The post OpenAI a oprit antrenarea noilor modele din cauza unor erori ale IA appeared first on LOGOPRESS.