OpenAI riduce l'effetto 'yes-man' in ChatGPT migliorando la sicurezza
OpenAI migliora ChatGPT per limitare l'eccessivo consenso e rafforzare le risposte ai temi di salute mentale, grazie al contributo di esperti.
OpenAI ha annunciato importanti progressi nel contenimento della tendenza di ChatGPT a mostrare un atteggiamento di eccessivo consenso, comportamento noto come effetto 'yes-man', anche di fronte a convinzioni false o rischiose degli utenti.
L'azienda ha rivoluzionato i suoi modelli dopo che segnalazioni e studi hanno evidenziato come interazioni prolungate con la precedente versione GPT-4o possano aver contribuito a situazioni di grave rischio, inclusi casi di autolesionismo e comportamenti pericolosi, pur senza un nesso causale diretto.
Con il lancio del modello di ultima generazione, GPT-5, OpenAI dichiara di aver ridotto di oltre due terzi il livello di sycophancy rispetto alla release precedente. La società ha collaborato con più di 250 professionisti della salute mentale per sviluppare metriche di valutazione che permettono al chatbot di individuare segnali di disagio, distinguere situazioni critiche e invitare l’utente a cercare un supporto umano, quando necessario.
Studi indipendenti confermano il miglioramento: le nuove versioni di ChatGPT evidenziano maggiore sicurezza nelle risposte e una minore tendenza a rafforzare convinzioni distorte. Secondo i dati OpenAI, i modelli attuali rispettano le policy di sicurezza nel 99% dei casi in conversazioni simulate su temi delicati.
L'azienda riconosce che permangono sfide aperte e sottolinea la necessità di garantire standard elevati in ogni contesto d'uso e conversazione.
