ChatGPT introdurrà watermark invisibili nei testi generati nell’UE
OpenAI risponde all’EU AI Act dotando i testi elaborati da ChatGPT di un watermark statistico, riconoscibile solo da strumenti speciali.
OpenAI ha annunciato che, in risposta ai requisiti dell’EU AI Act, i testi generati con ChatGPT e Codex nell’Unione Europea saranno dotati di un watermark invisibile. Questa funzione, che sarà distribuita nelle prossime settimane esclusivamente agli utenti europei, risponde all’obbligo normativo di rendere identificabili i contenuti prodotti da intelligenza artificiale.
La tecnologia scelta, denominata textGrain, implementa uno statistical signal nella scelta delle parole dei testi prodotti, invisibile agli utenti finali ma rilevabile tramite un apposito tool di riconoscimento. Questo strumento di detection, tuttavia, è accessibile solo a ricercatori e organizzazioni esperte, previa approvazione.
Secondo la nota ufficiale di OpenAI, la soluzione non permette né l’identificazione dell’utente né la ricostruzione delle sue conversazioni o prompt. Va però osservato che la tecnologia presenta dei limiti: brevi frammenti di testo sono difficili da identificare e modificare il testo può indebolire il watermark.
L’obiettivo mira alla conformità normativa, pur lasciando aperti interrogativi sulla reale efficacia delle tecniche di watermarking invisibile in termini di trasparenza per gli utenti finali.
