Chatbot AI: inaffidabilità nelle notizie
Uno studio rivela che i chatbot generativi spesso forniscono informazioni errate o inesistenti.
Un esperimento di un mese condotto su sette sistemi di AI generativa, tra cui Google's Gemini e OpenAI's ChatGPT, ha sollevato preoccupazioni sulla loro affidabilità come fonti di notizie. Lo studio, guidato da un professore di giornalismo esperto in informatica, ha evidenziato come questi strumenti abbiano spesso inventato fonti di notizie inesistenti o pubblicato rapporti falsi.
Il caso più eclatante ha coinvolto il chatbot Gemini, che ha creato un fittizio sito di notizie, examplefictif.ca, e riportato erroneamente uno sciopero degli autisti di scuolabus nel Quebec. In realtà, il problema era dovuto al ritiro di autobus elettrici per un guasto tecnico.
Durante l'esperimento, su 839 risposte raccolte, frequenti erano le citazioni di fonti immaginarie e URL non funzionanti. Solo il 37% delle risposte includeva un URL valido e completo. Nonostante le sintesi fossero precise in meno della metà dei casi, molte risultavano parzialmente corrette o fuorvianti, con conclusioni generative non supportate, come affermazioni di dibattiti riaccesi o tensioni inesistenti.
Questi problemi evidenziano le difficoltà dell'AI nel distinguere tra riassumere notizie e inventare contesti. Un rapporto di 22 organizzazioni dei media pubblici ha rilevato che quasi la metà delle risposte generate dall'AI conteneva problemi significativi. Il monito è chiaro: l'AI generativa dovrebbe essere considerata solo un punto di partenza, non una fonte di notizie affidabile.
Cosa sono le 'allucinazioni' nei sistemi di intelligenza artificiale generativa?
Le 'allucinazioni' nei sistemi di intelligenza artificiale generativa si riferiscono alla tendenza di questi modelli a produrre informazioni errate, illogiche o completamente inventate. Questo fenomeno si verifica perché i modelli, basati su enormi dataset testuali, calcolano le probabilità delle parole senza comprendere realmente la veridicità dei contenuti, rendendo inevitabili tali errori, soprattutto quando i dati di addestramento sono incompleti.
Quali sono stati i risultati principali dello studio sulla affidabilità dei chatbot AI come Gemini e ChatGPT?
Lo studio ha evidenziato che i chatbot AI, tra cui Gemini di Google e ChatGPT di OpenAI, spesso inventano fonti di notizie inesistenti o pubblicano rapporti falsi. Ad esempio, Gemini ha creato un sito di notizie fittizio e riportato erroneamente uno sciopero degli autisti di scuolabus nel Quebec, mentre in realtà il problema era dovuto al ritiro di autobus elettrici per un guasto tecnico. Inoltre, su 839 risposte raccolte, solo il 37% includeva un URL valido e completo, e meno della metà delle sintesi erano precise.
Perché l'intelligenza artificiale generativa fatica a distinguere tra riassumere notizie e inventare contesti?
L'intelligenza artificiale generativa fatica a distinguere tra riassumere notizie e inventare contesti perché, pur essendo addestrata su vasti dataset testuali, non possiede una comprensione intrinseca della veridicità delle informazioni. Questo porta a generare contenuti che possono sembrare plausibili ma che, in realtà, sono inesatti o completamente inventati.
Quali sono le implicazioni dell'uso di chatbot AI per la diffusione di notizie false?
L'uso di chatbot AI per la diffusione di notizie false può amplificare la disinformazione, poiché questi strumenti possono generare contenuti errati con un tono convincente, inducendo gli utenti a credere in informazioni non veritiere. Questo fenomeno è particolarmente preoccupante in contesti sensibili come le elezioni, dove la diffusione di informazioni false può influenzare l'opinione pubblica e i risultati elettorali.
Come possono gli utenti verificare l'affidabilità delle informazioni fornite dai chatbot AI?
Gli utenti possono verificare l'affidabilità delle informazioni fornite dai chatbot AI confrontando le risposte con fonti affidabili e riconosciute, come siti di notizie ufficiali o pubblicazioni accademiche. È importante mantenere un atteggiamento critico e non accettare automaticamente come veritiere le informazioni generate dall'AI, soprattutto su argomenti sensibili o controversi.
Quali misure stanno adottando le organizzazioni per migliorare l'affidabilità dei chatbot AI?
Le organizzazioni stanno adottando diverse misure per migliorare l'affidabilità dei chatbot AI, tra cui l'addestramento su dati aggiornati, l'implementazione di tecniche come la 'generazione aumentata per estrazione'
