Matt Robb, creator de conținut din Toronto, a decis să testeze Muse, noul agent AI dezvoltat de Meta, pentru a vedea dacă îl poate scuti de negocierile online, scrie Associated Press. Experimentul a luat însă o întorsătură neașteptată. În mai puțin de 24 de ore, un cumpărător necunoscut s-a prezentat noaptea la locuința sa.
Asistentul îi comunicase adresa, acceptase ridicarea produsului și chiar trimisese automat un mesaj din contul lui Robb, confirmând că se află acasă. „Nu doar că i-a dat adresa când a întrebat și i-a acceptat oferta, dar aproape că îl provoca pe tipul respectiv, sugerând că sunt acolo, deși nu eram”, a povestit Robb.
Cum a ajuns inteligența artificială să divulge adresa
Incidentul a fost provocat de permisiunea „always allow”, pe care Robb o acordase agentului AI când îi oferise acces la profilul său Facebook Marketplace. Adresa era deja disponibilă în informațiile pentru ridicarea produselor, iar Muse a utilizat-o fără o nouă confirmare.
Robb credea că asistentul îi va cere aprobarea înainte să accepte oferte sau să transmită date personale. Într-un alt caz, Muse ar fi propus un preț cu 100 de dolari sub limita minimă stabilită de utilizator. Meta a recunoscut această eroare, fără alte comentarii. Ulterior, Robb a restrâns considerabil accesul asistentului la aplicațiile sale.
Asistentul Ai a folosit adresa la care avea deja acces din Faceobook Marketplace. Imagine ilustrativă. Foto: Andre M. Chang/ZUMA Press Wire
Experții avertizează: AI-ul poate accesa și datele altor persoane
Agenții AI, precum Muse de la Meta și dots de la OpenAI, pot executa sarcini în numele utilizatorilor, inclusiv când aceștia nu urmăresc activitatea programelor. Pentru a funcționa eficient, au nevoie de acces la mesaje, contacte, calendare și alte informații personale. „Folosirea unui agent AI seamănă cu a-i da cuiva cheile și o listă de sarcini”, explică Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech.
Ebrahim Bagheri, profesor la Universitatea din Toronto, avertizează că retragerea permisiunilor nu înseamnă automat ștergerea informațiilor deja accesate de agent. Riscurile se extind și asupra persoanelor care nu utilizează asemenea tehnologii. Când un asistent citește mesajele unui utilizator, poate accesa inclusiv informații trimise de prieteni sau membri ai familiei, fără acordul acestora.
Apple a anunțat recent noi măsuri de protecție pentru macOS, avertizând că autonomia tot mai mare a agenților AI amplifică riscurile asociate accesului la date personale. Meta susține că Muse funcționează pe baza permisiunilor acordate de utilizatori, dar recunoaște că agentul poate comite greșeli sau efectua acțiuni neașteptate.