TikTok testa un rilevatore AI per proteggere i creator dai deepfake
TikTok introduce una funzione opzionale che identifica contenuti generati da AI che imitano i volti dei creator, rafforzando la sicurezza.
TikTok sta sperimentando una nuova soluzione per combattere il fenomeno dei deepfake e tutelare i creator. La piattaforma ha avviato i test di uno strumento di AI likeness detection che consente agli utenti selezionati di individuare contenuti generati artificialmente che replicano il loro volto senza autorizzazione.
Secondo fonti ufficiali, la nuova funzione è in fase di test su un ristretto gruppo di creator statunitensi. Chi decide di attivare il servizio deve prima verificare la propria identità tramite Jumio, attraverso selfie in tempo reale e controllo di documenti d'identità. È stato precisato che i documenti non vengono conservati da TikTok, e i dati facciali servono esclusivamente a confrontare il volto del creator con i contenuti sospetti.
Una volta completata la verifica, la piattaforma scansiona e segnala i video potenzialmente generati da AI che imitano il volto del creator. Questi ultimi possono quindi revisionare ed eventualmente segnalare i contenuti o gli account responsabili di impersonificazioni.
La rapidità con cui si diffondono i deepfake mette pressione sui social network per offrire strumenti di protezione efficaci. Dopo YouTube, TikTok si posiziona tra i leader nell'adozione di tecnologie per la tutela dell'identità digitale dei creator, in risposta alle crescenti esigenze di sicurezza nel panorama dei video online.
