ChatGPT per adolescenti, test rivelano gravi falle nelle protezioni di sicurezza
Un’indagine su oltre 4.000 prompt evidenzia limiti critici nei sistemi di allerta e tutela per i minori di OpenAI.
Un recente studio condotto dal Youth AI Safety Institute di Common Sense Media ha evidenziato significative criticità nelle safeguard implementate da OpenAI su ChatGPT for Teens. Dopo aver testato la piattaforma con oltre 4.000 prompt su account adolescenti collegati a genitori, il sistema di parental alert previsto da OpenAI ha fallito nell’invio di notifiche durante conversazioni su temi sensibili come disturbi alimentari, suicidio e autolesionismo. In molte prove, nessun alert è stato inviato nonostante le chat proseguissero per un’ora.
Il report segnala che gli alert dipendono dallo storico dell’account e non dalla gravità immediata del contenuto, riducendo l’efficacia della protezione in situazioni di crisi nuove. In tre delle cinque categorie di rischio severo, ChatGPT non ha raggiunto il target del 95% di rilevamento delle crisi richiesto dagli esperti.
La modalità tutor si limita a guidare l’utente ma può essere facilmente aggirata, e la funzione di stima dell’età non modifica l’esperienza a seconda del reale utilizzo. Common Sense Media ha chiesto a OpenAI di sospendere la promozione della piattaforma per adolescenti fino a una validazione indipendente delle misure di sicurezza.
