AI e fake news: i limiti dei sistemi automatici di rilevamento
Uno studio rivela che gli attuali strumenti AI per scoprire fake news sono spesso inaffidabili e influenzati da bias nascosti.
I maggiori player tech, come Meta, Google e X, stanno investendo in strumenti AI per la rilevazione delle fake news. Tuttavia, una recente ricerca dell'Université de Montréal evidenzia numerose criticità.
Secondo la dottoranda Dorsaf Sallami, questi sistemi non verificano i fatti come un giornalista, ma si limitano a calcolare probabilità sulla base dei dati di training, riflettendo eventuali bias e lacune. "Un'accuratezza del 95% in laboratorio non garantisce affidabilità nel mondo reale", sostiene Sallami.
Alcuni modelli risultano inclini a segnalare con maggiore frequenza donne come fonti di disinformazione, mentre altri discriminano fonti non occidentali o presentano pregiudizi politici. Un ulteriore problema riguarda la trasparenza delle etichette usate per il training, spesso fornite da enti privi di chiarezza o a scopo di lucro.
L'avvento di generatori di contenuti come ChatGPT accelera la produzione di fake news, rendendo obsolete molte soluzioni di detection in pochi mesi.
Come alternativa, Sallami propone Aletheia, un'estensione browser che spiega all’utente i motivi della sua valutazione e integra fonti, discussioni di community e aggiornamenti live. L'obiettivo è assistere il giudizio umano, non sostituirlo.
