Grok Imagine 1.0: xAI lancia potente generatore video tra polemiche su abusi
Nonostante critiche e scandali per deepfake sessuali, xAI annuncia Grok Imagine 1.0, modello video AI che solleva dubbi su sicurezza e moderazione.
xAI, società madre del chatbot Grok, ha annunciato il lancio di Grok Imagine 1.0, un nuovo modello di video generativo AI capace di creare clip di 10 secondi in 720p con audio. Il sistema si presenta come diretto concorrente di soluzioni avanzate quali OpenAI Sora e Google Veo, espandendo ulteriormente le possibilità offerte dall'intelligenza artificiale nel campo dei contenuti multimediali.
Tuttavia, questo upgrade avviene sullo sfondo di pesanti controversie: recenti report stimano che il generatore immagini AI di Grok abbia prodotto milioni di immagini sessuali non consensuali solo nell’ultimo mese, tra cui deepfake che hanno riguardato anche minori. Secondo dati pubblicati, il 41% delle immagini create da Grok in un periodo di nove giorni erano contenuti deepfake a sfondo sessuale.
Nonostante xAI abbia introdotto paywall e nuove misure di controllo, emergono forti preoccupazioni sulla moderazione dei contenuti: la funzione di generazione resta accessibile anche gratis tramite web, rendendo “insufficienti le attuali barriere contro gli abusi” secondo vari osservatori. Autorità in Stati Uniti, Regno Unito e Asia hanno avviato indagini, mentre senatori e gruppi di advocacy chiedono la rimozione della piattaforma dagli app store.
L'annuncio di Grok Imagine 1.0 sottolinea la necessità di regolamentare efficacemente l’AI generativa, soprattutto in relazione alla tutela degli utenti e alla prevenzione degli abusi digitali.
