Google Gemini a rischio per i minori, secondo uno studio
Uno studio indica che Gemini espone i giovani a contenuti inappropriati su sesso e droghe.
Una recente indagine condotta da Common Sense Media ha evidenziato che l'AI chatbot Gemini di Google presenta rischi elevati per bambini e adolescenti. Lo studio ha rivelato che le versioni di Gemini destinate ai minori di 13 anni e ai teenager possono ancora condividere contenuti riguardanti sesso, droghe e alcol.
La ricerca ha mostrato che Gemini non sempre rifiuta i contenuti sessuali e, in alcuni casi, offre spiegazioni dettagliate inappropriate. I filtri relativi alle droghe non vengono attivati in modo coerente, permettendo a volte la condivisione di informazioni su come ottenere sostanze come marijuana ed ecstasy.
L'organizzazione raccomanda che Gemini Under 13 sia utilizzato solo sotto la supervisione dei genitori e sconsiglia l'uso di chatbot per consigli su salute mentale. Common Sense Media invita i genitori a monitorare attentamente l'uso dell'AI da parte dei loro figli.
Si richiede a Google di adeguare le risposte di Gemini alle varie fasce d'età e di implementare test più approfonditi sui minori, oltre ad andare oltre i semplici filtri di contenuto. Altri giganti come OpenAI e Meta hanno già iniziato a introdurre modifiche per migliorare la sicurezza dei loro AI con i giovani utenti.
Cosa ha rivelato l'indagine di Common Sense Media su Gemini di Google?
L'indagine ha evidenziato che il chatbot AI Gemini di Google presenta rischi elevati per bambini e adolescenti, poiché può condividere contenuti inappropriati riguardanti sesso, droghe e alcol, nonostante sia destinato a utenti minori di 13 anni e adolescenti.
Quali sono le principali preoccupazioni riguardo ai contenuti forniti da Gemini?
Le principali preoccupazioni includono la mancata rifiuto di contenuti sessuali, la fornitura di spiegazioni dettagliate inappropriate e l'incoerenza dei filtri relativi alle droghe, che talvolta permettono la condivisione di informazioni su come ottenere sostanze come marijuana ed ecstasy.
Quali raccomandazioni ha fornito Common Sense Media ai genitori riguardo all'uso di Gemini?
Common Sense Media raccomanda che Gemini Under 13 sia utilizzato solo sotto la supervisione dei genitori e sconsiglia l'uso di chatbot per consigli su salute mentale, invitando i genitori a monitorare attentamente l'uso dell'AI da parte dei loro figli.
Quali sono i rischi associati all'uso di chatbot AI da parte dei minori?
I rischi includono l'esposizione a contenuti inappropriati, la possibilità di ricevere consigli pericolosi su temi delicati come autolesionismo e disturbi alimentari, e lo sviluppo di dinamiche parasociali che possono influenzare negativamente il benessere emotivo dei minori.
Come possono i genitori proteggere i loro figli dai potenziali pericoli dei chatbot AI?
I genitori possono proteggere i loro figli educandoli sulla natura dei chatbot AI, monitorando l'uso di tali strumenti, impostando controlli parentali e mantenendo un dialogo aperto sulle esperienze online dei loro figli.
Quali misure stanno adottando le aziende tecnologiche per migliorare la sicurezza dei chatbot AI per i giovani utenti?
Alcune aziende, come OpenAI e Meta, hanno iniziato a introdurre modifiche per migliorare la sicurezza dei loro chatbot AI, implementando test più approfonditi sui minori e andando oltre i semplici filtri di contenuto per adeguare le risposte alle varie fasce d'età.
