Apple rimuove le app AI che generano immagini nude non consensuali
Pressioni legali spingono Apple e Google a intervenire contro app che sfruttano l’AI per creare deepfake espliciti senza consenso.
Apple ha eliminato diverse applicazioni basate su intelligenza artificiale in grado di generare immagini nude non consensuali, dopo l’intervento delle autorità di San Francisco. L’azione arriva a seguito delle lettere inviate dal City Attorney David Chiu, che accusava Apple e Google di favorire la diffusione di queste app e di trarne profitto tramite gli acquisti in-app.
Apple ha confermato la rimozione di varie app segnalate, precisando che la produzione o distribuzione di contenuti pornografici o di “nudificazione” viola da sempre le sue App Review Guidelines. Altri sviluppatori sono stati avvisati di adeguarsi alle politiche o rischiano la cancellazione definitiva dall’App Store.
La società ribadisce: “L’App Store è stato progettato per essere un luogo sicuro e affidabile per gli utenti” e sottolinea che gli sviluppatori restano responsabili dei contenuti generati nelle proprie app. Le applicazioni che permettono contenuti generati dagli utenti devono integrare filtri efficaci oppure rischiare la rimozione.
Google ha adottato misure simili, sospendendo centinaia di app Android con funzionalità di nudificazione e limitando le ricerche sul Play Store.
L’episodio evidenzia come la diffusione di AI generativa renda più difficile il controllo dei contenuti dannosi, richiedendo nuove strategie di moderazione da parte dei marketplace digitali.
