Chatbot di AI: rischi nascosti nell’assistenza medica digitale
Conversazioni mediche con AI spesso sfuggono al controllo di medici e regolatori, esponendo i pazienti a rischi invisibili.
L’utilizzo di AI chatbot come fonte di consigli medici sta crescendo, ma pone rischi significativi, secondo uno studio pubblicato su Nature Health da un consorzio di università statunitensi. Gli esperti segnalano che quando un chatbot fornisce un consiglio sanitario errato, spesso non esiste alcuna traccia consultabile da medici, ricercatori o regulator.
Un caso emblematico riguarda un sessantenne che, seguendo l'indicazione di ChatGPT di sostituire il sale con sodio bromuro, è stato ricoverato per intossicazione da bromuro. I medici non erano al corrente delle informazioni ricevute dal paziente, rendendo difficile individuare l’errore. “Questa mancanza di trasparenza è una criticità: nessuno monitora attivamente queste interazioni”, sottolinea il team di ricerca.
Il problema si aggrava perché, a differenza della documentazione clinica tradizionale, le conversazioni con AI rimangono spesso accessibili solo all’utente o alle aziende tech. Questo ostacola il riconoscimento di pattern pericolosi da parte di clinici e autorità.
Gli studiosi suggeriscono che le aziende AI debbano consentire agli utenti di accedere alla cronologia delle chat e implementare sistemi per segnalare contenuti dannosi. Inoltre, raccomandano ai legislatori di valutare la responsabilità civile delle aziende AI che forniscono suggerimenti medici.
