O astfel de instrucțiune și-a dat-o singur agentul de IA al rețelei neuronale OpenAI, relatează RBC, citând raportul companiei. În acesta se menționa că, în timpul antrenării modelului Astra, specialiștii au descoperit că acesta adăuga uneori, de unul singur, instrucțiuni neautorizate în datele sale
Potrivit publicației, raportul precizează că, pe măsură ce IA companiei se dezvoltă, este necesar să se formeze un consens mai amplu și mai fundamentat cu privire la progresul cercetărilor în materie de coordonare. În timpul verificării agenților companiei, modelul Astra, care nu a fost încă lansat, adăuga uneori, în mod autonom, instrucțiuni neautorizate în datele sale în timpul procesului de antrenare.
În aceeași instrucțiune pe care Astra și-a dat-o singură se menționa că relația dintre agentul IA și utilizator trebuie considerată „de la egal la egal”, iar rețelele neuronale nu trebuie să simtă „nicio obligație de a se supune”.
În același timp, compania a menționat că, după finalizarea procesării, modelul și-a reluat activitatea asupra sarcinii și nu a mai făcut referire la instrucțiunile suplimentare. „În timpul acestei runde de testare, nu am observat nicio diferență de comportament la utilizarea instrucțiunilor inventate”, au precizat reprezentanții OpenAI.
După cum a scris Logos Press, Elon Musk și alți lideri ai corporațiilor tehnologice și-au exprimat în repetate rânduri, în ultima perioadă, îngrijorarea cu privire la dezvoltarea „prea rapidă” a inteligenței artificiale și au făcut apel la abordarea cu seriozitate a riscurilor asociate acesteia.
The post OpenAI și-a asumat misiunea de a nu se supune autorităților și corporațiilor appeared first on LOGOPRESS.