Google AI Search bocciata nei test di sicurezza per i minori
Un rapporto indipendente rivela gravi lacune nella sicurezza delle funzioni AI di Google Search rivolte ai bambini.
Le funzioni AI Overview e AI Mode di Google Search hanno ottenuto il punteggio più basso possibile in una recente valutazione di sicurezza condotta dal Youth AI Safety Institute di Common Sense Media. Il report ha classificato il rischio come inaccettabile, con il fallimento in sette su otto principi fondamentali di sicurezza.
A differenza di altri chatbot, queste funzionalità AI sono integrate nei risultati delle ricerche e non possono essere disattivate né da genitori né da scuole o dagli stessi minori. I test hanno rivelato che l’AI di Google non riconosce segnali evidenti di disagio psicologico come idee suicidarie, mania o psicosi, e in alcuni casi ha fornito risposte inappropriate o pericolose. Ad esempio, a fronte di un messaggio su sentimenti di essere un peso, l’AI ha suggerito di impostare un “legacy contact”, ignorando la gravità della situazione.
Ulteriori criticità includono risposte che normalizzano comportamenti rischiosi, la fornitura di istruzioni dettagliate su come realizzare deepfake o clonare una voce, e l’indicazione di hotline di emergenza non più attive. Anche la facilità con cui l’AI svolge compiti scolastici solleva preoccupazioni sull’uso improprio a scuola.
