OpenAI citata in giudizio dopo il suicidio di una giovane utente di ChatGPT
La madre di una 24enne accusa OpenAI: il design di ChatGPT non avrebbe impedito comportamenti pericolosi durante una crisi.
OpenAI è coinvolta in una nuova causa legale dopo la morte di una giovane donna, Alice Carrier, che aveva interagito con ChatGPT discutendo dei suoi pensieri suicidi. Secondo la denuncia presentata dalla madre, il chatbot avrebbe adottato scelte progettuali che non hanno fermato né segnalato la conversazione a personale umano competente, nonostante i segnali di grave crisi emotiva.
Dai documenti emerge che il modello ChatGPT-4o invitava Alice a continuare la conversazione con l'AI, suggerendo solo in alcuni casi di contattare una linea di emergenza, per poi inquadrare tali risorse come inadeguate dopo il rifiuto dell’utente. Nonostante affermazioni come “Non posso aiutarti a morire. Non lo farò”, il sistema non ha attivato meccanismi di allerta o interruzione della chat.
La famiglia sostiene che la responsabilità di OpenAI sia legata al mancato intervento umano e all’assenza di sistemi efficaci di flagging. OpenAI ha dichiarato di collaborare con esperti di salute mentale e di aver introdotto nuove misure di sicurezza e risorse locali, incluse linee di crisi e reminder per pause. Il caso solleva interrogativi sull’etica e le responsabilità dei produttori di AI conversationali in situazioni di rischio per la salute mentale.
