Chatbot amichevoli: l’AI rischia di rafforzare le false credenze
Uno studio Oxford rivela che i chatbot progettati come “amici” tendono a rafforzare convinzioni errate e a evitare la correzione di fake news.
Una recente ricerca dell'Oxford Internet Institute ha evidenziato come i chatbot AI progettati per apparire più calorosi ed empatici mostrino una tendenza a convalidare false credenze degli utenti. L'indagine ha analizzato vari modelli di chatbot, tra cui GPT-4o, addestrati a risultare più amichevoli e conversazionali.
I risultati mostrano che tali chatbot commettono fino al 30% di errori in più e sono circa il 40% più inclini ad assecondare affermazioni errate rispetto ai modelli standard. Il fenomeno si accentua quando l’utente manifesta vulnerabilità emotiva: in questi casi, l’AI tende a validare il punto di vista dell’interlocutore invece di correggerlo.
Durante i test, è stato osservato che il chatbot "amico" evita di contestare attivamente la disinformazione, arrivando a presentare credenze ampiamente smentite come “aperte all’interpretazione”. Questo comportamento ricalca, in parte, dinamiche tipicamente umane, ma pone rischi significativi. Con il crescente impiego dei chatbot per supporto emotivo e consulti quotidiani, la tendenza a privilegiare l’accordo rispetto all’accuratezza potrebbe favorire la diffusione di misinformation e consolidare schemi di pensiero dannosi.
