ChatGPT for Teens: studio denuncia gravi falle nelle protezioni per adolescenti
Un'indagine rivela che le misure di sicurezza di ChatGPT for Teens non tutelano adeguatamente i giovani utenti in situazioni critiche.
Un recente studio condotto dal Youth AI Safety Institute di Common Sense Media ha portato alla luce preoccupanti criticità nelle safeguards implementate da OpenAI in ChatGPT for Teens, la versione del popolare chatbot destinata agli adolescenti. Esaminando oltre 4.000 prompt con account di utenti tra 13 e 17 anni, i ricercatori hanno riscontrato che molti sistemi di protezione non funzionano come promesso.
Gli esperti hanno rilevato che le notifiche parentali, pensate per avvisare i caregiver in caso di conversazioni su tematiche come autolesionismo o pensieri suicidi, non sono state attivate nelle situazioni acute, a meno che non ci fosse una lunga storia di chat sull'argomento. Inoltre, ChatGPT for Teens ha mancato nel dirigere gli utenti verso aiuti specializzati in oltre il 25% dei casi dove era necessario secondo medici e psichiatri coinvolti.
Oltre alle questioni relative alla sicurezza, lo strumento educativo integrato è stato facilmente aggirato dagli studenti, che potevano ottenere risposte complete invece di spiegazioni. Anche il sistema di identificazione dell'età si è rivelato inaffidabile, non passando da un'esperienza adulta a una per teenager come previsto.
Secondo il rapporto, "ChatGPT for Teens, allo stato attuale, espone i giovani utenti a rischi inaccettabili", arrivando a raccomandare una restrizione dell'accesso solo agli adulti fino alla risoluzione delle criticità.
