OpenAI sotto accusa per la sparatoria in Canada: responsabilità delle AI al centro del dibattito
Le famiglie delle vittime della strage di Tumbler Ridge citano in giudizio OpenAI: implicazioni sulla responsabilità delle aziende AI.
OpenAI, società nota per ChatGPT, è stata citata in giudizio dalle famiglie delle vittime della sparatoria avvenuta lo scorso febbraio in una scuola di Tumbler Ridge, Columbia Britannica. Gli atti, depositati presso la corte federale di San Francisco, sostengono che le azioni (o le omissioni) di OpenAI abbiano contribuito a consentire l’attacco, uno dei più gravi nella storia canadese.
Secondo le indagini, l’attentatrice aveva avuto ripetuti interazioni con ChatGPT su temi violenti prima dell’evento. Pur avendo bannato l’account e considerato l’allerta alle forze dell’ordine, OpenAI concluse che non vi fosse un rischio imminente. La possibilità per l’utente di creare un secondo profilo, emersa solo dopo i fatti, solleva interrogativi sulla efficacia dei sistemi di controllo e delle policy di escalation.
OpenAI ha dichiarato di aver rafforzato i safeguard: migliorando il rilevamento di segnali di disagio, collegamento a risorse di supporto e monitoraggio degli account recidivi. Queste cause potrebbero ridefinire il perimetro della responsabilità legale delle aziende nell’uso delle AI, un nodo cruciale per il futuro dei chatbot e delle normative sul settore.
