OpenAI e Google introducono nuove soluzioni per identificare le immagini generate da AI
OpenAI implementa watermarking invisibile e metadati avanzati grazie alla collaborazione con Google DeepMind per tracciare le immagini AI.
Individuare immagini generate da AI sta diventando ogni giorno più complesso. OpenAI ha annunciato un aggiornamento fondamentale nella gestione della content provenance, collaborando con Google per rafforzare l'identificabilità delle immagini create con i suoi strumenti.
L’iniziativa si articola in tre elementi principali:
- Adozione dello standard C2PA, che consente una lettura affidabile dei metadati di provenienza delle immagini AI;
- Introduzione della tecnologia SynthID di Google DeepMind, un watermarking invisibile applicato direttamente ai contenuti prodotti tramite ChatGPT e OpenAI API;
- Lancio di un tool pubblico di verifica che consente agli utenti di caricare un’immagine e verificarne l’origine tramite i Content Credentials o il watermark SynthID.
I metadati forniscono dettagli sull’origine dell’immagine, mentre il watermarking invisibile resiste a trasformazioni come screenshot e ri-upload. “I due sistemi lavorano insieme: i metadati descrivono l’origine, il watermark resta quando i metadati vengono persi”, riferisce OpenAI.
Va comunque considerato che la mancanza di watermark o metadati non garantisce l’assenza di AI, poiché questi elementi possono essere falsificati o assenti in immagini di altri generatori non conformi. La collaborazione tra OpenAI e Google rappresenta però uno standard emergente per il riconoscimento affidabile dei contenuti generati da modelli AI.
