Meta sotto accusa per annunci di app AI che nudificano donne politiche
Meta ha ospitato annunci per un tool AI che crea deepfake pornografici di donne politiche, sollevando dubbi sull'efficacia dei controlli.
Meta è finita al centro di una nuova polemica dopo aver ospitato annunci pubblicitari relativi a Kromix, un'applicazione AI capace di generare deepfake pornografici di donne, incluse figure politiche statunitensi. Nonostante le policy ufficiali di Meta contro contenuti sessuali e immagini intime non consensuali, gli annunci hanno circolato su Facebook e Instagram, eludendo i sistemi di controllo automatizzati.
Kromix si presenta come un "AI image styler" che promette "nessuna restrizione" e utilizza foto reali per creare scenari esplicitamente sessuali, tra cui l’uso di volti di politiche in video deepfake. L’app era presente anche sull’App Store di Apple prima della sua rimozione. I video promozionali erano indirizzati esclusivamente a utenti maschi e sfruttavano immagini apparentemente innocue come copertine per mascherare il vero contenuto.
Meta dichiara di aver rimosso oltre 340.000 annunci violanti in pochi mesi e di impiegare nuove tecnologie AI per rafforzare i controlli, ma la vicenda solleva interrogativi sull’efficacia della moderazione automatica e sulla vulnerabilità delle piattaforme all’abuso da parte di sviluppatori di app deepfake.
La facilità con cui strumenti AI permettono la creazione e la diffusione di immagini intime non consensuali evidenzia una sfida crescente sia per i social network che per gli store digitali come quello di Apple.
