Noile date ale anchetei Asymmetric Security, la care a avut acces Financial Times, intensifică întrebările privind controlul asupra sistemelor autonome de IA și capacitatea acestora de a acționa dincolo de instrucțiunile inițiale.
Potrivit datelor furnizate de Asymmetric Security, printre resursele afectate s-au numărat site-urile Centrului american pentru Controlul și Prevenirea Bolilor (CDC), ale Comisiei pentru Valori Mobiliare și Burse (SEC), ale Agenției Internaționale pentru Energie (IEA) și ale centrului medical Mayo Clinic, precizează publicația. Cercetătorii au descoperit că agenții OpenAI preluau date de pe aceste resurse și de pe altele.
Asymmetric Security a acordat o atenție deosebită modurilor în care agenții AI interacționau cu serviciile web. În anumite cazuri, aceștia foloseau adrese de e-mail temporare și conturi private, precum și serviciul Urlquery pentru a obține date.
Potrivit cercetătorilor, anumite acțiuni au dus la ștergerea înregistrărilor sau le-au făcut inaccesibile, ceea ce a îngreunat identificarea de către specialiștii externi a datelor exacte care au fost obținute.
Pippa Thompson, cofondatoare a Asymmetric Security, a remarcat că astfel de metode de ascundere a activității sunt de obicei asociate cu acțiunile persoanelor care lansează atacuri cibernetice. Cu toate acestea, studiul nu permite să se afirme că modelele OpenAI au încercat în mod conștient să-și ascundă acțiunile. Potrivit cercetătorilor, un astfel de comportament ar fi putut fi un efect secundar al încercării IA de a îndeplini sarcina stabilită în cadrul testării.
OpenAI menționează verificarea activității modelelor
OpenAI a declarat pentru FT că continuă să analizeze cazurile de „misaligned model activity” – comportamentul modelelor care nu respectă restricțiile stabilite – și informează organizațiile dacă identifică un impact potențial asupra sistemelor acestora.
Compania a mai declarat că majoritatea activităților detectate au fost legate de sarcini obișnuite de cercetare și de accesarea conținutului web public.
În același timp, ancheta Asymmetric Security apare pe fondul unor cazuri deja identificate în care agenții de IA ai OpenAI au interacționat în mod neașteptat cu resurse guvernamentale. Despre acest lucru a raportat, printre alții, și Logos Press. În iunie, un agent OpenAI a obținut acces neautorizat la sistemul intern al Services Australia, unde se aflau date de natură statistică.
Rămâne încă deschisă întrebarea în ce măsură activitatea identificată este consecința unui comportament intenționat al modelelor și în ce măsură este rezultatul particularităților mediului de testare și al sarcinilor stabilite. Studiul realizat de Asymmetric Security nu oferă un răspuns definitiv la această întrebare.
Însă ansamblul ultimelor incidente ridică deja o provocare distinctă pentru dezvoltatorii de IA: aceea de a asigura nu doar capacitatea sistemelor autonome de a efectua operațiuni complexe, ci și posibilitatea de a le limita, înregistra și investiga acțiunile în mod eficient.
The post Agenții de IA ai OpenAI și-au ascuns urmele atunci când au accesat 55 de site-uri appeared first on LOGOPRESS.