ChatGPT introduce Trusted Contact per segnalare rischi di autolesionismo
La nuova funzione di OpenAI punta a coinvolgere una persona fidata se emergono segnali di rischio nelle conversazioni su ChatGPT.
OpenAI ha lanciato Trusted Contact, una funzione opzionale per ChatGPT che consente agli utenti adulti di nominare un contatto fidato da allertare in caso di conversazioni che indichino rischi concreti di autolesionismo o suicidio. Il sistema si basa su un monitoraggio automatico delle chat: se vengono rilevati segnali di seria preoccupazione, un team ristretto valuterà la situazione e, se necessario, notificherà la persona indicata tramite email, SMS o notifica in-app.
La persona designata riceve preventivamente un invito a ricoprire tale ruolo e può liberamente accettare o rifiutare. In caso di segnalazione, il messaggio fornisce solo il motivo generale della preoccupazione, senza dettagli o trascrizioni delle chat, per tutelare la privacy dell'utente.
OpenAI sottolinea che ogni notifica sarà revisionata da operatori umani entro un'ora e che è possibile cambiare o rimuovere il contatto fidato in qualsiasi momento dalle impostazioni dell'app. L'aggiunta è opzionale, ma il sistema può suggerire la funzione agli utenti che discutano ripetutamente temi legati al disagio emotivo.
La funzione sarà disponibile per tutti gli utenti adulti a livello globale nelle prossime settimane.
