ChatGPT avvisa una persona fidata se rileva segnali di crisi nell'utente

OpenAI ha aggiunto a ChatGPT una funzione chiamata Trusted Contact: uno strumento che permette a un utente adulto di indicare preventivamente una persona di fiducia da avvisare, tramite email, SMS o notifica in-app, se durante una conversazione emergono segnali gravi legati a suicidio o autolesionismo. Non si tratta di un banner con un numero verde, né di un semplice reindirizzamento verso risorse di supporto: è un meccanismo strutturato che può attivare conseguenze concrete nel mondo reale.

Come funziona, passo per passo

La funzione è opzionale e viene presentata come un elemento aggiuntivo, che non sostituisce né un servizio di emergenza né un percorso terapeutico. L'utente sceglie un unico contatto, che deve essere maggiorenne — 18 anni nella maggior parte dei Paesi, 19 in Corea del Sud — e che deve accettare l'invito entro una settimana. Se rifiuta o non risponde, è possibile selezionare un'altra persona. La funzione è in fase di distribuzione progressiva e potrebbe non essere ancora visibile nelle impostazioni di tutti gli account.

Il meccanismo è progettato per evitare automatismi. Se i sistemi di ChatGPT rilevano una conversazione potenzialmente preoccupante, il primo passo non è notificare il contatto esterno: l'utente viene prima incoraggiato a rivolgersi direttamente alla persona scelta, con suggerimenti pratici su come farlo. Solo se revisori umani appositamente formati valutano la situazione come seriamente critica, OpenAI può inviare una notifica al Trusted Contact — senza includere trascrizioni né dettagli della conversazione. Il contatto riceve un segnale che lo invita a farsi vivo, niente di più.

Questo dettaglio — la minimizzazione delle informazioni condivise — tutela la privacy dell'utente e riduce il rischio di stigma. Ma crea anche un paradosso pratico: si chiede a qualcuno di intervenire senza spiegargli perché. La funzione punta a un obiettivo molto specifico: non risolvere la crisi, ma interrompere l'isolamento. È come ricevere una chiamata che dice "potrebbe valere la pena sentirsi" senza ulteriori spiegazioni.

Un salto rispetto ai chatbot tradizionali

Fino a oggi, la sicurezza nei sistemi conversazionali basati su intelligenza artificiale si è giocata quasi interamente all'interno della chat: blocchi automatici, rifiuti a rispondere su certi argomenti, messaggi di supporto, suggerimento di risorse. Trusted Contact sposta il problema su un piano diverso: non più solo cosa succede dentro la schermata, ma cosa accade fuori quando il sistema ritiene che la situazione stia degenerando. È un cambio di categoria per un prodotto consumer come ChatGPT.

ChatGPT non si limita più a rispondere: ora può attivare una rete umana reale

Il confronto con altri prodotti tecnologici aiuta a capire la portata di questa scelta. La funzione Crash Detection di Apple su iPhone e Apple Watch — che interpreta i dati dei sensori per rilevare incidenti e, se l'utente non risponde, può chiamare i soccorsi e avvisare i contatti di emergenza — è il precedente più citato. Nei primi mesi di adozione, vennero segnalati casi di falsi allarmi generati da attività sportive o giostre, con chiamate ai servizi di emergenza non necessarie. La lezione è concreta: quando un sistema sbaglia, non sbaglia in astratto. Sbaglia davanti a persone reali, con conseguenze reali.

Nel caso di ChatGPT la sfida è ancora più delicata, perché il segnale non viene da accelerometri o giroscopi, ma dal linguaggio naturale. E il linguaggio è pieno di ambiguità. Frasi come "non ce la faccio più" o "mi viene da sparire" possono essere iperboli, sfoghi momentanei, modi di dire — oppure segnali reali di disagio. Al contrario, chi è davvero in crisi può parlare in modo indiretto o minimizzare la propria condizione. La precisione di un modello linguistico in questo contesto non è solo una questione tecnica: è una questione di relazioni umane.

La fiducia come variabile critica

Per molte persone ChatGPT è diventato uno spazio in cui esprimere pensieri che non si direbbero facilmente ad altri, per pudore, stanchezza o mancanza di interlocutori disponibili. Sapere che esiste la possibilità di una notifica esterna potrebbe produrre un effetto inibitorio: qualcuno potrebbe evitare di parlare apertamente dei propri stati d'animo per timore di conseguenze sociali o relazionali. Nelle discussioni online il punto più ricorrente non è il rifiuto dell'idea di ricevere aiuto, ma la preoccupazione per i falsi positivi e per le dinamiche che un alert ingiustificato potrebbe innescare con la persona designata. Se scatta un avviso nel momento sbagliato, la relazione cambia — e non sempre in meglio.

OpenAI ha cercato di mitigare questi rischi con alcune scelte di prodotto precise: la funzione è attivabile solo su scelta esplicita dell'utente (opt-in), l'utente viene coinvolto prima di qualsiasi escalation verso terzi, e la notifica esterna passa sempre attraverso una revisione umana. Restano però domande aperte su quante notifiche vengono inviate, con quale tasso di errore e in quali Paesi.

Un problema globale, soluzioni ancora parziali

Il contesto in cui si inserisce questa funzione è quello di una crisi di salute mentale che non riguarda solo alcune fasce di popolazione. Secondo l'Organizzazione Mondiale della Sanità, circa il 73% dei decessi per suicidio avviene nei Paesi a basso e medio reddito — proprio quelli in cui l'accesso a servizi di cura è più frammentato o assente. Gli strumenti digitali e gli assistenti conversazionali si trovano a operare in questo spazio: raggiungono persone che il sistema sanitario tradizionale non riesce a raggiungere con la stessa continuità. Ma intercettare un segnale di disagio non equivale a prendere in carico una persona.

Gli strumenti digitali raggiungono dove i servizi sanitari non arrivano, ma non li sostituiscono

OpenAI non è l'unica azienda a muoversi in questa direzione. A fine febbraio 2026 Instagram ha annunciato che avviserà i genitori iscritti ai programmi di supervisione quando un adolescente cerca ripetutamente termini legati a suicidio o autolesionismo in un breve lasso di tempo. Il meccanismo è diverso — riguarda minori, genitori e pattern di ricerca — ma la logica è simile: quando un segnale digitale supera una certa soglia, mostrare un banner non basta più. Serve avvisare qualcuno.

Un precedente per tutto il settore

Quando un prodotto di consumo introduce un canale di escalation con revisione umana e tempi operativi definiti, stabilisce un precedente che vale per l'intero settore. La sicurezza smette di essere un insieme di regole sui contenuti e diventa un servizio con una catena decisionale. Questo tipo di evoluzione tende, nel tempo, a generare richieste di trasparenza: quante notifiche vengono inviate, con quale tasso di errore, con quali strumenti di contestazione per l'utente che riceve un alert ritenuto ingiustificato.

Nel contesto europeo, la cornice regolatoria spinge già le piattaforme a ragionare in termini di rischi sistemici e impatti sulla salute mentale, richiedendo evidenze che le misure adottate funzionino e non producano danni collaterali prevedibili. Non è sufficiente dichiarare buone intenzioni.

Trusted Contact è, in fondo, il tentativo di rendere operativa una responsabilità che molti utenti già attribuiscono spontaneamente a questi strumenti. E pone una domanda che finora restava sullo sfondo: quando un assistente conversazionale ritiene che una conversazione sia diventata pericolosa, qual è la cosa più utile che può fare senza tradire la fiducia che lo rende usabile? La risposta di OpenAI, per ora, passa da un nome e un numero salvati in anticipo, e da un confine sottile tra aiuto e intrusione.