OpenAI inserisce watermark nei testi ChatGPT per l’Unione Europea
Il watermark sarà inserito di default nei testi generati in UE per rispettare l'AI Act, ma la soluzione resta facilmente aggirabile.
OpenAI ha annunciato che i testi prodotti da ChatGPT saranno marchiati automaticamente con un watermark quando generati nell'Unione Europea. La decisione è motivata dall'esigenza di conformarsi all'EU AI Act, che richiede un contrassegno rilevabile sui contenuti creati da modelli di intelligenza artificiale.
La tecnologia adottata, chiamata textGrain, inserisce pattern specifici nelle scelte lessicali dei testi, impercettibili agli esseri umani ma identificabili tramite uno strumento dedicato. Questo sistema segue l'approccio di altri watermark già esistenti, come SynthID e il progetto C2PA, pur mantenendo una natura proprietaria. L’accesso al detector sarà inizialmente riservato a ricercatori e organizzazioni selezionate, con la possibilità di ampliamento tramite approvazione.
I test condotti da OpenAI mostrano una percentuale di rilevamento del 92% su testi intatti, ma la modifica anche minima del testo riduce drasticamente l’efficacia del watermark: alterando il 20% del contenuto il successo scende al 25%. L’implementazione del watermark sarà attiva di default solo in UE; altrove resterà opzionale. Il rollout è previsto nelle prossime settimane.
