La doar 14 ani, Berry a descoperit că un coleg realizase și distribuisese online o imagine deepfake sexual cu ea, generată prin AI. La momentul respectiv, nu știa cum să procedeze, cui să ceară ajutor sau cum să elimine conținutul din mediul online, arată CNN.
Situația ei nu este un caz izolat. Conform unui studiu al organizației Thorn, unul din opt adolescenți din Statele Unite afirmă că cunoaște personal pe cineva care a fost victima unui deepfake cu caracter sexual. Tehnologia AI, care permite crearea rapidă a imaginilor false, a făcut ca acest tip de hărțuire să fie mai ușor de realizat și mai răspândit.
Fenomenul abuzului digital în creștere: de la experiență personală la soluție practică
Refuzând să rămână doar cu trauma, Berry s-a implicat activ în prevenție. În colaborare cu companiile de securitate cibernetică Adaptive Security și Pathos Consulting Group, ea a contribuit la realizarea unui curs online destinat elevilor, părinților și profesorilor.
Cursul prezintă definiția imaginilor deepfake create prin AI, metode de identificare și ce înseamnă abuzul sexual digital fără consimțământ. De asemenea aduce o prezentare clară a modului în care funcționează șantajul sexual online (sextortion).
„Când am cerut sprijin, și conducerea școlii era la fel de derutată ca noi. Nu știau ce măsuri să ia”, a declarat Berry. „De aceea consider că acest curs este crucial: îi ajută pe profesori și educatori să reacționeze corect.”
Un program scurt, dar important
Instruirea durează aproximativ 17 minute și se adresează elevilor de gimnaziu și liceu, precum și adulților responsabili de siguranța lor. Conține informații practice despre recunoașterea imaginilor deepfake și impactul psihologic al abuzului digital. De asemenea prezintă opțiunile legale existente și resursele de sprijin pentru victime. Participanții primesc și legături către organizații de suport, inclusiv linii telefonice dedicate victimelor agresiunilor sexuale, alături de explicații privind drepturile legale.
În SUA, difuzarea imaginilor sexuale fără acord – fie ele reale, fie generate prin AI – este interzis prin Take It Down Act, o lege promovată și de Berry. Aceasta obligă platformele online să elimine materialul incriminat în maximum 48 de ore de la notificare.
Elliston Berry joins President Trump at the Joint Session—a 15-year-old survivor of AI deepfakes who is fighting to protect America’s children.
With the Take It Down Act and support from @FLOTUS Melania Trump, the next generation is safer from these attacks. pic.twitter.com/XbXxHIy1hZ
— The White House (@WhiteHouse) March 5, 2025
Cu toate acestea, în cazul ei, ștergerea imaginilor a durat nouă luni. Berry subliniază că lipsa de informare și reacția lentă a instituțiilor pot agrava suferința victimelor.
Un avertisment și pentru creatorii de deepfake sexual
Autorii cursului insistă asupra faptului că mesajul nu se adresează doar victimelor, ci și potențialilor agresori. „Mulți consideră că este o glumă sau o farsă”, afirmă Brian Long, CEO Adaptive Security. „Nu este. Este ilegal, produce efecte grave și poate distruge vieți.”
Programul este oferit gratuit școlilor și părinților pentru a elimina barierele de acces la informație.
Berry spune că doar în ultima lună a aflat despre mai multe fete care au trecut prin situații similare. „Este înfricoșător, mai ales când nimeni nu știe cum să reacționeze. De aceea trebuie să discutăm deschis, să ne informăm și să luăm măsuri.”