La începutul săptămânii, X a comunicat că a implementat „instrumente tehnologice” menite să prevină folosirea Grok în modificarea imaginilor reale ale oamenilor în scop sexual. Reprezentanții companiei au reiterat „toleranța zero” față de nuditatea nonconsensuală și exploatarea sexuală, inclusiv a minorilor.
Cu toate acestea, o anchetă realizată de The Guardian a arătat că versiunea separată a aplicației – Grok Imagine – rămâne disponibilă prin browser și poate fi utilizată pentru a genera imagini și chiar videoclipuri sexualizate pornind de la fotografii obișnuite ale unor femei îmbrăcate. Aceste materiale pot fi apoi distribuite fără probleme pe platforma X, devenind accesibile publicului în doar câteva secunde.
Reacții critice din partea organizațiilor pentru drepturile femeilor
Grupurile care luptă împotriva violenței online consideră că situația reflectă lipsa de implicare reală a companiei. Potrivit acestora, existența unei metode de ocolire a restricțiilor arată că problema nu a fost soluționată la nivel fundamental.
„Este inadmisibil ca asemenea instrumente să fie disponibile în continuare. Vorbim despre abuz sexual digital și despre o încălcare gravă a consimțământului”, au transmis activiștii, solicitând intervenția rapidă a autorităților competente.
În Marea Britanie, subiectul a intrat în atenția guvernului. Premierul Keir Starmer a descris imaginile generate de AI ca fiind „scandaloase” . El a subliniat că libertatea de exprimare nu justifică încălcarea dreptului la consimțământ.
Autoritatea de reglementare în domeniul mass-media, Ofcom, a demarat o investigație oficială pentru a evalua dacă X respectă legislația privind siguranța online. În paralel, anchete similare au loc în alte țări, inclusiv Canada. De asemenea, unele state din Asia iau în considerare blocarea accesului la Grok.
Grok AI, o problemă ce depășește cazul X
Situația Grok readuce în discuție responsabilitatea companiilor din domeniul tehnologic în contextul dezvoltării inteligenței artificiale. Deși AI-ul generativ este promovat ca un instrument inovator, specialiștii avertizează că, în lipsa unor norme clare și a unei aplicări stricte, acesta poate fi folosit pentru hărțuire și abuz. Acest lucru este îndreptat în special împotriva femeilor.
În timp ce Elon Musk continuă să prezinte Grok drept un succes internațional, presiunea din partea opiniei publice și a autorităților asupra platformei X crește. În final, concluziile investigațiilor ar putea impune schimbări mai complexe decât cele promise până acum.