Meta introduce notifiche ai genitori per chat AI su autolesionismo
Nuove funzioni su Instagram, Facebook e Horizon per segnalare ai genitori i segnali di autolesionismo rilevati dalle AI dei figli minorenni.
Meta ha annunciato l’introduzione di strumenti avanzati di supervisione parentale per le sue piattaforme, con l’obiettivo di rafforzare la sicurezza dei minori durante l’interazione con chatbot AI, in particolare nei casi di dialoghi che indicano segnali di autolesionismo o pensieri suicidi.
Quando un adolescente manifesta questi comportamenti nelle chat con la Meta AI, il genitore riceverà un avviso tramite SMS, email o notifica in-app. Il contenuto preciso della conversazione non sarà condiviso, ma verranno forniti strumenti e risorse utili per supportare la famiglia.
Le nuove feature sono disponibili su Instagram, Facebook e Meta Horizons negli Stati Uniti, Canada, Regno Unito e Australia. Gli adulti dovranno selezionare gli account da monitorare tramite il Family Center.
Secondo Meta, la rilevazione delle conversazioni a rischio avviene grazie a un sistema AI supportato da esperti di salute mentale. Tutte le segnalazioni saranno gestite tramite revisione manuale, privilegiando la prudenza e notificando i genitori in caso di dubbio. In futuro, Meta prevede di poter allertare i servizi d’emergenza in caso di rischio concreto di suicidio, seguendo procedure già attivate su Facebook e Instagram.
