L’associazione di Don Fortunato Di Noto svela il nuovo orrore digitale: immagini prelevate da account pubblici e rielaborate con l’Intelligenza Artificiale (Grok) per creare falsi nudi. “Piattaforma inerte, rimossa solo una su dieci”
Una nuova, inquietante frontiera dell’abuso digitale sta prendendo piede tra i social network più utilizzati dai giovanissimi. L’allarme arriva dall’Associazione Meter, che nel suo ultimo monitoraggio tecnico ha portato alla luce un fenomeno devastante: immagini di minori vengono sistematicamente “rubate” da profili pubblici di TikTok per essere trasformate in materiale pedopornografico deepfake sulla piattaforma X (ex Twitter).
Il meccanismo individuato dagli esperti di Meter è semplice quanto terribile. I predatori effettuano il download di video e foto dalla piattaforma di video sharing TikTok, dove spesso i profili dei giovanissimi sono aperti a tutti. Successivamente, i contenuti vengono caricati su X. Qui, sfruttando strumenti di Intelligenza Artificiale generativa – con richieste dirette anche al sistema Grok integrato nel social di Elon Musk – le immagini vengono elaborate con la tecnica del “nudify”: partendo da foto reali, l’IA “spoglia” i soggetti creando falsi nudi estremamente realistici.
L’analisi del campione monitorato da Meter restituisce un quadro allarmante: risulta coinvolto in questo scambio criminale ben 1 minore su 5. Una statistica che evidenzia la vastità del fenomeno e la vulnerabilità della presenza online degli adolescenti.
Nonostante l’azione di Meter, che opera in qualità di Trusted Flagger (segnalatore attendibile), la risposta della piattaforma X è definita “sostanzialmente mancata”. Dalle evidenze raccolte, soltanto il 10% del materiale segnalato è stato rimosso. Per il restante 90%, il social network ha respinto le richieste di rimozione con una motivazione che lascia sgomenti: secondo la piattaforma, quei contenuti generati artificialmente “non violano le normative” della community.
