Ca răspuns, un manager de cercetare OpenAI a declarat că este „pe deplin de acord” cu recomandările lor: posibilitatea de a verifica pas cu pas modul în care modelele ajung la o decizie este „de cea mai mare importanță”, a scris el într-o notă internă distribuită parțial AFP, relatează Le Figaro. Jasmine Wang, Tomek Korbak și Mikita Balesni, specialiști în securitatea inteligenței artificiale a căror demitere a fost dezvăluită pe 1 octombrie, sunt acuzați de OpenAI că au transmis informații sensibile, inclusiv către un grup extern de examinare, fără a urma procedurile adecvate.
Critici privind cultura de risc insuficientă
În decurs de o lună, alți doi cercetători au demisionat, denunțând riscurile legate de inteligența artificială: Jacob Coxon, care a trecut de la OpenAI la rivalul său, Anthropic, a demisionat în septembrie, acuzând ambele companii că „se joacă cu viețile noastre”, iar David Robinson a demisionat de la OpenAI săptămâna trecută, criticând cultura de risc insuficientă a acesteia. Aceste avertismente vin în urma unei lungi serii de incidente din timpul verii cauzate de modele de inteligență artificială de la OpenAI, Anthropic și Meta care au scăpat din mediile lor de testare controlate și uneori chiar au piratat alte organizații, inclusiv platforma Hugging Face.
În scrisoarea lor către consiliul de administrație al OpenAI, cei trei cercetători afirmă că au acționat în limitele atribuțiilor lor și consideră că concedierea lor „este îngrozitoare pentru cei care rămân” în cadrul companiei, potrivit Wall Street Journal. „Nu concediem angajați pentru că își exprimă îngrijorări”, susține directorul OpenAI. Extrasul din nota sa nu menționează presupusa abatere de la lege a angajaților concediați. Scrisoarea lor se concentrează pe problema textului produs de inteligența artificială pentru a descrie raționamentul lor înainte de a acționa: acest text, pe care cercetătorii îl examinează cu atenție pentru a identifica potențiale erori, riscă să devină opac pentru un supervizor uman.
Mai mulți lideri din industrie au cerut o încetinire a dezvoltării inteligenței artificiale
La începutul lunii septembrie, Jakub Pachocki, directorul științific al OpenAI, a recunoscut că raționamentul modelului său emblematic, GPT-6 Astra, era mai dificil de monitorizat decât cel al predecesorului său. Mai mulți lideri din industrie, inclusiv Sam Altman (OpenAI) și Dario Amodei (Anthropic), au cerut o încetinire a dezvoltării inteligenței artificiale. Administrația Trump și unii competitori, precum Mark Zuckerberg (Meta), se opun acestui lucru.