Ancheta se concentrează pe modul de utilizare a funcțiilor de editare a imaginilor din Grok. Potrivit presei, acestea ar fi permis „dezbrăcarea” virtuală a fotografiilor unor femei și fete minore fără acordul lor. Euronews arată că situația s-a agravat odată cu lansarea unei opțiuni plătite, numită „Spicy Mode”, capabilă să genereze conținut explicit.
Reacția Comisiei Europene, Grok, în centrul acuzațiilor
Un purtător de cuvânt al instituției a criticat dur aceste funcționalități, descriindu-le drept „ilegale, revoltătoare și inacceptabile” în Uniunea Europeană. În urma presiunii publice, platforma X a introdus restricții tehnice pentru a împiedica modificarea imaginilor cu persoane reale în scopuri sexualizate, indiferent de tipul de abonament.
Reprezentanții companiei au anunțat că au eliminat toate imaginile de natură sexuală generate prin Grok, inclusiv cele cu minori, și au suspendat definitiv conturile utilizatorilor implicați. Platforma X a precizat că acționează ferm împotriva conținutului ilegal și colaborează cu autoritățile acolo unde este necesar.
Investigații internaționale și posibile sancțiuni
Cazul Grok este cercetat și în alte state, printre care Franța, Marea Britanie, Germania și Australia. În anumite țări asiatice, utilizarea aplicației a fost interzisă complet. Comisia Europeană a solicitat informații suplimentare în baza Digital Services Act (DSA). Dacă se vor confirma încălcări ale legislației, platforma X ar putea fi amendată cu până la 6% din veniturile sale globale anuale.
Platforma a mai fost sancționată de autoritățile europene. În decembrie anul trecut, Comisia a aplicat o amendă de 120 de milioane de euro pentru practici considerate înșelătoare, legate de sistemul de verificare a conturilor și de publicitate.