Anthropic testa watermark invisibili per identificare i testi generati da Claude
Il nuovo watermark di Anthropic promette una rilevazione affidabile dei testi AI, ma l'interpretazione dei risultati resta complessa.
Anthropic sta sperimentando un watermark invisibile nelle risposte testuali generate dal suo modello Claude, con l’obiettivo di rendere più semplice l’identificazione dei contenuti creati dall’intelligenza artificiale.
Il watermark non consiste in un semplice marcatore nascosto, ma modifica il modo in cui Claude seleziona le parole, generando un pattern statistico rilevabile anche dopo modifiche del testo. Questo approccio vuole rendere il segnale più resistente rispetto alle tecniche tradizionali, che spesso vengono annullate da traduzioni o revisioni.
Tuttavia, sorgono dubbi sull’interpretazione dei risultati. Il watermark indica solo il coinvolgimento di Claude, non se l’intero testo sia stato effettivamente scritto dall’AI. Ad esempio, un testo tradotto o corretto da Claude, ma originato da un autore umano, rimarrà marcato dal watermark.
La questione non è soltanto tecnica: l’uso crescente di AI per traduzioni, revisione o sintesi complica la distinzione tra creazione e semplice supporto. Il rischio è che il watermark venga utilizzato impropriamente come prova della paternità automatica dei testi, soprattutto nel settore accademico, dove già oggi si registrano falsi positivi e controversie sull’uso dei detector AI.
