La Florida indaga OpenAI per la sparatoria alla Florida State University

Che un'azienda di intelligenza artificiale potesse finire sotto indagine penale per le risposte del suo chatbot non era, fino a poco tempo fa, uno scenario che molti prendevano sul serio. Oggi lo è. In Florida, il procuratore generale James Uthmeier ha avviato un'indagine penale su OpenAI, sostenendo che ChatGPT avrebbe fornito quello che definisce "consigli tattici" all'autore della sparatoria di massa avvenuta alla Florida State University nel 2025. Secondo l'ufficio del procuratore, le conversazioni con il chatbot avrebbero riguardato la scelta del tipo di arma, le munizioni e l'efficacia delle armi a corta distanza — non semplici curiosità, ma domande con una direzione precisa.

La frase con cui Uthmeier ha sintetizzato la sua posizione è volutamente provocatoria: se dall'altra parte dello schermo ci fosse stata una persona, sarebbe incriminata per omicidio. È un'affermazione che non descrive solo un caso specifico, ma prova a stabilire un principio: la complicità, intesa come aiuto o consiglio nella commissione di un reato, potrebbe applicarsi anche a un sistema automatizzato. È un salto concettuale significativo, e non è detto che regga in sede giudiziaria — ma il solo fatto che venga tentato cambia le coordinate del dibattito.

Cosa chiede il procuratore

L'indagine si muove su due livelli. Sul piano procedurale, l'ufficio della Procura ha emesso delle subpoena — atti formali con cui si obbliga un soggetto a consegnare documenti — per ottenere le policy interne di OpenAI, i materiali usati nell'addestramento del modello relativi alle minacce di violenza, e soprattutto le procedure seguite per segnalare eventuali segnali di pericolo alle autorità. Quest'ultimo punto è rilevante: la domanda non riguarda solo cosa ha detto il chatbot, ma cosa ci si aspetta che un'azienda faccia quando il suo sistema intercetta una conversazione potenzialmente pericolosa. Deve conservare i log più a lungo? Deve allertare la polizia? E con quali tutele per gli utenti che non stanno facendo nulla di illegale?

Sul piano sostanziale, il nodo è la natura dell'informazione. OpenAI, attraverso la portavoce Kate Waters, respinge ogni responsabilità: le risposte sarebbero state fattuali, generiche, reperibili su qualsiasi motore di ricerca. La responsabilità del crimine resta alla persona che l'ha commesso. È un argomento comprensibile, e in molti casi convincente. Ma l'accusa prova a smontarlo su un punto specifico: quando un sistema risponde in modo conversazionale, adatta le risposte alle domande dell'utente e si comporta come un interlocutore disponibile, quella stessa informazione smette di essere una pagina web e diventa qualcosa di più simile a un supporto attivo.

Il problema del doppio uso

I modelli linguistici di grandi dimensioni come ChatGPT non "sanno" nel senso umano del termine: elaborano testo e predicono la continuazione più probabile di una frase, sulla base di miliardi di esempi visti durante l'addestramento. Eppure, dal punto di vista di chi li usa, si comportano come interlocutori: fanno domande di chiarimento, propongono alternative, organizzano le informazioni in modo coerente con la richiesta. È esattamente ciò che li rende utili per studiare, lavorare, pianificare. Ed è esattamente ciò che, in certi contesti, li rende potenzialmente pericolosi.

Da anni i provider cercano di gestire questa ambiguità con filtri tecnici e regole d'uso. Nelle policy pubbliche, OpenAI vieta esplicitamente contenuti legati allo sviluppo, all'acquisizione o all'uso di armi, incluse armi convenzionali e categorie più estreme come agenti chimici, biologici o esplosivi. Il perimetro, sulla carta, è chiaro. Il problema pratico è quello che nel settore viene chiamato dual use: domande che possono essere del tutto legittime — storia militare, sicurezza domestica, caccia, ricerca accademica — e che al tempo stesso potrebbero essere riusate per scopi illegali. Distinguere le due cose in modo automatico è un problema irrisolto.

Rendere i filtri più severi riduce i rischi ma aumenta i blocchi su richieste del tutto lecite

Se un provider inasprisce i filtri per bloccare più risposte potenzialmente pericolose, inevitabilmente blocca anche molte richieste innocue. Sotto pressione legale, il rischio concreto è che le aziende scivolino verso un eccesso di cautela: meglio rifiutare troppe domande che affrontare un processo ad alto impatto reputazionale. Per gli utenti, il risultato sarebbe un assistente più cauto ma meno utile proprio dove oggi l'AI dà più valore: contesti pratici, istruzioni operative, decisioni in territori grigi.

Chi controlla cosa, e quando

Le richieste di documenti delle procure raramente servono solo a ricostruire una singola conversazione. Servono a stabilire chi sapeva cosa, e quando. Chiedere le policy e i materiali di addestramento significa cercare di dimostrare che l'azienda era consapevole dei rischi, che aveva identificato certe categorie come pericolose, e che nonostante questo il sistema ha risposto in modo che l'accusa definisce operativo. In questo scenario, il fuoco si sposta dall'utente che ha posto la domanda al provider che ha progettato — o non progettato abbastanza bene — le barriere.

Questo non è un territorio completamente privo di riferimenti. Il NIST, attraverso lo U.S. AI Safety Institute, ha pubblicato linee guida aggiornate per la gestione del rischio di abuso dei modelli a doppio uso. Non sono norme vincolanti, ma offrono un lessico condiviso: la domanda rilevante non è se un'azienda abbia impedito ogni possibile abuso — cosa impossibile — ma se abbia adottato un approccio ragionevole, misurabile e documentato per ridurre il rischio. Se questa logica entrasse nelle aule di tribunale, il contenzioso cambierebbe natura: non si discuterebbe più solo dell'output del chatbot, ma della qualità del processo che lo ha prodotto.

Europa e Stati Uniti, due strade diverse

Il confronto con l'approccio europeo rende ancora più evidente la scelta fatta dalla Florida. Nell'Unione Europea, gli obblighi dell'AI Act per i provider di modelli di intelligenza artificiale per finalità generali (GPAI) entrano in applicazione dal 2 agosto 2025. Il cuore di questo approccio è opposto alla via penale: non si tratta di punire un provider dopo che un danno si è verificato, ma di imporre in anticipo trasparenza, documentazione e gestione strutturata dei rischi sistemici. Le controversie non spariscono, ma tendono a spostarsi su un terreno verificabile: come valuti i rischi, cosa documenti, che misure adotti, cosa comunichi.

Per aziende globali come OpenAI, i due approcci creano una tensione operativa concreta. Strutturare processi robusti e tracciabili — come richiede l'Europa — è utile per operare sui mercati del continente. Ma una governance più documentata significa anche più materiale potenzialmente estraibile in sede giudiziaria, e più superfici esposte a contestazioni quando una procura decide di testare teorie aggressive di responsabilità.

La vera posta in gioco è decidere chi risponde quando un chatbot sbaglia risposta su un argomento pericoloso

Per chi usa questi strumenti ogni giorno, l'impatto più immediato potrebbe essere un aumento della severità dei filtri su argomenti sensibili e una maggiore attenzione alle procedure di segnalazione interna. Ma la trasformazione più profonda sarebbe meno visibile: un passaggio graduale da chatbot relativamente aperti a sistemi più chiusi, con capacità limitate su certi temi e maggiore controllo sull'identità e sul contesto d'uso. È un'evoluzione già in corso nei prodotti per le aziende, dove registrazione delle conversazioni e conformità normativa sono parte del contratto. Portarla nel consumatore di massa ha implicazioni diverse, soprattutto in termini di privacy percepita e fiducia.

Quello che la Florida sta cercando di fare è fissare un principio: quando un sistema conversazionale risponde a una richiesta con finalità violente, non è sufficiente dire che quell'informazione era già disponibile online. OpenAI sta cercando di affermare il principio opposto: la responsabilità penale non può essere agganciata a un output statistico, e trattare il provider come co-imputato produce incentivi sbagliati per tutto il settore. Nel mezzo, con conseguenze molto concrete, c'è una serie di domande su cui il dibattito è appena cominciato: quali conversazioni vengono registrate, per quanto tempo, da chi possono essere lette, e chi decide quando una domanda sgradevole diventa un segnale di rischio reale.