App AI pericolose nei principali store: dilaga il fenomeno delle 'nudify app'
Un report svela la diffusione di app AI che generano immagini deepfake non consensuali su App Store e Google Play, aggirando i controlli.
Un'analisi del Tech Transparency Project (TTP) mette in luce una problematica crescente: le principali piattaforme di distribuzione di applicazioni, Apple App Store e Google Play Store, ospitano numerose app AI destinate a “spogliare” digitalmente persone da foto ordinarie senza il loro consenso.
Queste 'nudify app' sono facilmente reperibili tramite ricerche banali e permettono a chiunque di generare deepfake pornografici, spesso sfruttando immagini innocue prelevate dai social network. Secondo il TTP, si tratta di un fenomeno di massa: complessivamente queste applicazioni hanno superato i 700 milioni di download e generato ricavi stimati per 117 milioni di dollari.
Nonostante le policy ufficiali contro contenuti pornografici ed exploitativi, l'enforcement si rivela inefficace: i gestori degli store spesso rimuovono solo alcune app dopo segnalazioni pubbliche, mentre gli sviluppatori riescono a eludere i controlli con minime modifiche. «Ogni volta che si acquista una funzione 'nudify', anche i grandi operatori incassano una parte», evidenzia il report.
Le conseguenze sociali sono gravi: queste tecnologie favoriscono molestie, ricatti e violenze digitali, soprattutto a danno di donne e minori. Secondo le associazioni, l’escalation di questi strumenti richiede un intervento urgente sia da parte dei regolatori sia dei titolari degli store.
