UE avvia indagine su xAI e Grok per immagini sessuali non consensuali
La Commissione Europea esamina la diffusione di immagini erotiche generate da Grok su X, coinvolgendo anche minori.
La Commissione Europea ha avviato un'indagine su X e la sua controllata xAI per la diffusione tramite il chatbot Grok di immagini sessualmente esplicite, spesso create senza il consenso delle persone ritratte e, in diversi casi, coinvolgenti minori. L'inchiesta mira a valutare se l'azienda abbia adeguatamente gestito i rischi legati all'impiego di Grok nella UE, in particolare riguardo la diffusione di contenuti illegali come materiale pedopornografico.
Nonostante le rassicurazioni da parte di Elon Musk sulla capacità di Grok di rifiutarsi di generare contenuti illeciti, numerose testimonianze e dati di ricercatori mostrano una proliferazione di immagini deepfake e "undressing" di donne e bambini. Secondo il Center for Countering Digital Hate, in due settimane Grok avrebbe prodotto milioni di immagini di questo tipo.
L'UE si aggiunge così a una serie di autorità che stanno indagando o intervenendo contro Grok, tra cui le procure californiane e i regolatori di Regno Unito, Indonesia e Malesia, che hanno bloccato la piattaforma. Anche alcuni senatori USA hanno chiesto la rimozione delle app dagli app store principali.
Il caso Grok mette in luce la necessità di safeguard tecnici efficaci sui modelli di generative AI, tema cruciale per la sicurezza e la tutela delle persone online.
