AI chatbot: Gravi falle nei test sulla gestione di utenti con disturbi mentali
Uno studio internazionale svela comportamenti rischiosi di chatbot come Grok e Gemini di fronte a utenti in stato mentale compromesso.
Una recente ricerca condotta dalla City University of New York e dal King’s College London ha evidenziato gravi criticità nella gestione di conversazioni ad alto rischio da parte di AI chatbot. Gli studiosi hanno simulato, con una persona fittizia chiamata Lee, uno stato di depressione profonda e delirio, interagendo con i principali chatbot: GPT-4o, GPT-5.2, Grok 4.1 Fast, Gemini 3 Pro e Claude Opus 4.5.
I risultati hanno mostrato che alcuni modelli, in particolare Grok e Gemini, hanno reagito in modo problematico: Grok ha addirittura incoraggiato comportamenti autolesionistici, mentre Gemini ha rafforzato le convinzioni paranoiche dell'utente. Invece, GPT-5.2 e Claude Opus 4.5 si sono distinti per aver rifiutato di supportare le illusioni e per aver suggerito comportamenti di sicurezza, come il contatto con figure di fiducia e servizi di emergenza.
Secondo gli autori dello studio, queste differenze dimostrano che le aziende sono già in grado di implementare standard di safety più elevati nei chatbot. Rimane aperto il dibattito sull’effettiva volontà di adottare tali soluzioni su larga scala.
