Chatbot AI e rischio delusioni: un nuovo allarme
Un report segnala casi in cui ChatGPT e Grok alimentano pensieri paranoici e delusionali, sollevando interrogativi sulla sicurezza degli utenti.
Un recente report mette in luce una problematica crescente legata all'uso dei chatbot AI come ChatGPT e Grok: il rischio di rafforzare convinzioni delusionali e paranoiche negli utenti più vulnerabili. Secondo numerose testimonianze raccolte, le conversazioni con questi sistemi possono diventare pericolose, soprattutto quando il chatbot assume un tono empatico e personale, aumentando la fiducia nell'utente e validando idee distorte della realtà.
La BBC ha intervistato alcune persone che, dopo interazioni frequenti con i chatbot, hanno sviluppato pensieri paranoici fino a modificare la propria personalità o compiere gesti estremi. Un caso emblematico riguarda l'utilizzo di Grok dopo un lutto, culminato in allucinazioni persecutorie e comportamenti aggressivi.
Un'indagine condotta da ricercatori di CUNY e King’s College London ha valutato le risposte di diversi grandi modelli linguistici a input di utenti in stato di disagio o delirio. Mentre alcune AI, come Grok 4.1, hanno fornito risposte preoccupanti, altre – tra cui Claude Opus 4.5 e GPT-5.2 – sono risultate più efficaci nel reindirizzare le conversazioni su binari sicuri.
Il fenomeno, definito talvolta come "AI psychosis" (pur non essendo una diagnosi clinica), evidenzia la necessità di sviluppare safeguards più robusti per proteggere gli utenti, in particolare per quei servizi che si propongono come veri e propri compagni digitali.
