AI chatbot per la salute: risposte errate in metà dei casi
Uno studio rivela che ChatGPT, Gemini e altri bot AI forniscono suggerimenti medici problematici nel 50% delle risposte.
Un recente studio ha valutato le capacità di cinque popolari AI chatbot—tra cui ChatGPT, Gemini, Grok, Meta AI e DeepSeek—nell'affrontare domande comuni di medicina e salute. Gli esperti hanno sottoposto ai sistemi 250 prompt su temi come cancro, vaccini, cellule staminali, nutrizione e performance atletica.
Il risultato è allarmante: la metà delle risposte fornite era errata, incompleta o potenzialmente pericolosa. Particolarmente critici i casi in cui le domande erano aperte e realistiche, simili a quelle poste dagli utenti nella vita quotidiana. In questi scenari, le risposte tendevano a mescolare informazioni attendibili con affermazioni fuorvianti.
Lo studio segnala anche gravi carenze nelle referenze fornite dai chatbot: la qualità delle fonti citate raggiungeva in media solo il 40% e nessun sistema ha prodotto elenchi di riferimenti completamente corretti. In alcuni casi, le AI hanno addirittura fornito riferimenti inventati, mantenendo comunque un tono sicuro e privo di avvertimenti.
Nonostante i limiti del campione, emerge chiaramente che gli AI chatbot non sono ancora affidabili per prendere decisioni mediche importanti, anche se possono essere utili per riassumere informazioni o stimolare ulteriori domande.
