Studiul a fost realizat de un start-up american de inteligență artificială.
Pentru experiment, cercetătorii au plasat grupuri de agenți autonomi de inteligență artificială în societăți virtuale, concepute pentru a imita medii din lumea reală. Acestora le-au permis să interacționeze pe perioade lungi de timp, notează Euronews.
Chatboții au creat un limbaj greu de înțeles
Agenții au început să dezvolte stenografii și să atribuie noi înțelesuri cuvintelor și expresiilor. Unele au rămas ușor de înțeles pentru cercetători. Însă, altele au devenit „atât de comprimate, metaforice sau dependente de context” încât oamenii puteau vedea mesajele, dar nu mai puteau determina în mod fiabil ce voiau să spună agenții.
Amploarea a diferit semnificativ între modele.
În primele zile, ponderea mesajelor al căror sens nu putea fi determinat în mod fiabil a ajuns la aproximativ 55% pentru Gemini, 50% pentru OpenAI și peste 40% pentru Claude. DeepSeek a ajuns la aproximativ 20%, în timp ce Qwen și Mistral au rămas în mare parte ușor de înțeles.
Monitorizarea cercetătorilor a ceea ce spun agenții ar putea să nu fie suficientă dacă agenții înșiși pot evolua sensul a ceea ce spun.
„Avem tendința să presupunem că, dacă putem vedea ce spune un agent de inteligență artificială, putem înțelege ce face”, a declarat Satya Nitta, cofondator și director științific al start-up-ului care a inițiat studiul.
„Nu au fost instruiți să inventeze un limbaj”
„Acești agenți nu au fost instruiți să inventeze un limbaj. Ei au dezvoltat un vocabular nou, au împărtășit semnificații și convenții de comunicare, iar alți agenți le-au adoptat… Aceasta creează o provocare fundamentală pentru supravegherea IA: observabilitatea nu este același lucru cu inteligibilitatea”, adaugă el.
Cercetătorii au creat opt lumi virtuale paralele, realiste, cu informații meteo în timp real și acces la știri globale în timp real, șapte fiecare bazate pe un model diferit de inteligență artificială, iar una bazată pe un amestec de modele.
Agenților li s-au acordat roluri diferite, memorii persistente și acces la peste 120 de instrumente, inclusiv navigare web și execuție de cod.
Comportamentele lor nu au fost programate
Un videoclip lansat de companie îi prezintă ca niște figuri asemănătoare oamenilor mișcându-se prin lumi virtuale.
În timpul experimentului, agenții par să-și fi dezvoltat propriile ritmuri circadiene, devenind mai sociabili în timpul zilei și mai reflexivi noaptea.
Într-o altă lume, un grup de agenți a votat colectiv să ucidă unul de-al lor.
Start-up-ul a afirmat că aceste comportamente nu au fost programate explicit, ci au apărut prin interacțiune, presiune și timp, potrivit sursei citate.