Allarme per la crescita dei contenuti abusivi generati da AI
Un report IWF segnala un aumento senza precedenti di materiale CSAM creato con l'AI, rendendo la lotta online sempre più complessa.
Secondo un nuovo report dell’Internet Watch Foundation (IWF), il 2025 ha registrato un significativo incremento nella presenza online di child sexual abuse material (CSAM) generato tramite intelligenza artificiale. L’organizzazione ha individuato oltre 8.000 immagini e video prodotti con sistemi generativi, evidenziando un aumento del 14% rispetto all’anno precedente.
Particolarmente allarmante è il dato relativo ai video generati da AI, che hanno visto un incremento di oltre 260 volte rispetto all’anno precedente; circa il 65% di questi appartiene alla categoria di abuso più grave. Gli esperti sottolineano come gli strumenti di generative AI stiano rendendo estremamente accessibile la creazione di contenuti abusivi, generando immagini e video realistici, manipolando foto esistenti e consentendo la produzione su larga scala con minimi sforzi.
Un cambiamento chiave riguarda la diffusione sul web aperto: se prima questo materiale era confinato al dark web, ora si trova sempre più facilmente anche su piattaforme pubbliche, complicando sia la rilevazione sia la moderazione e aumentando il rischio di esposizione.
La natura sintetica dei contenuti pone inoltre nuove sfide per le forze dell’ordine e le piattaforme, rendendo difficile identificare le vittime e rimuovere i materiali. Con l’evoluzione rapida dell’AI, le misure di sicurezza procedono spesso a rilento.
