ChatGPT introduce sistemi di rilevamento dell’età per proteggere i minori
OpenAI implementa tecnologie di age-prediction su ChatGPT per limitare l’accesso a contenuti sensibili da parte degli utenti più giovani.
OpenAI ha avviato il rilascio di una nuova tecnologia di age-prediction su ChatGPT, volta a rafforzare le misure di sicurezza per gli utenti under 18. Il sistema stima l’età analizzando comportamenti, segnali d’uso e dati relativi all’account, come la durata di attività e le fasce orarie di accesso.
Se un utente viene identificato erroneamente come minorenne, è possibile procedere a una verifica dell’identità tramite Persona, piattaforma specializzata che richiede una selfie in tempo reale e un documento d’identità ufficiale.
Queste nuove salvaguardie si concentrano sulla riduzione dell’esposizione a contenuti sensibili, tra cui:
- violenza grafica o scene cruente;
- descrizioni di autolesionismo;
- sfide virali pericolose;
- roleplaying a sfondo sessuale, romantico o violento;
- materiale che promuove standard di bellezza estremi, diete non salutari o body shaming.
L’implementazione di filtri basati sull’età risponde a normative sempre più stringenti a livello globale e a una crescente attenzione verso la sicurezza dei giovani online. OpenAI, come altre aziende attive nell’AI, è infatti oggetto di scrutinio e inchieste in seguito a casi che coinvolgono minori e chatbot.
Come funziona la tecnologia di age-prediction implementata da OpenAI su ChatGPT?
La tecnologia di age-prediction di OpenAI analizza segnali comportamentali e dati dell'account, come la durata di attività e le fasce orarie di accesso, per stimare se un utente ha meno di 18 anni. Se l'algoritmo prevede che l'utente sia minorenne, vengono attivate misure di sicurezza aggiuntive per limitare l'esposizione a contenuti sensibili.
Cosa succede se un utente maggiorenne viene erroneamente identificato come minorenne?
Se un utente maggiorenne viene erroneamente classificato come minorenne, può verificare la propria età tramite Persona, una piattaforma di verifica dell'identità. Il processo richiede l'invio di un selfie in tempo reale e di un documento d'identità ufficiale. Una volta completata la verifica, le restrizioni vengono rimosse.
Quali tipi di contenuti vengono filtrati per gli utenti identificati come minorenni?
Per gli utenti identificati come minorenni, ChatGPT applica filtri per ridurre l'esposizione a contenuti sensibili, tra cui violenza grafica, descrizioni di autolesionismo, sfide virali pericolose, roleplay a sfondo sessuale, romantico o violento, e materiale che promuove standard di bellezza estremi o diete non salutari.
Chi è Persona e qual è il suo ruolo nella verifica dell'età su ChatGPT?
Persona è una piattaforma specializzata nella verifica dell'identità che collabora con OpenAI per confermare l'età degli utenti di ChatGPT. Gli utenti possono verificare la propria età inviando un selfie in tempo reale e un documento d'identità ufficiale tramite Persona.
Quali sono le implicazioni legali per le aziende che non implementano misure di sicurezza per proteggere i minori online?
Le aziende che non adottano misure adeguate per proteggere i minori online possono affrontare sanzioni legali, multe e danni alla reputazione. Inoltre, potrebbero essere soggette a indagini da parte di autorità di regolamentazione e a cause legali da parte di utenti o dei loro tutori legali.
Come possono i genitori monitorare e controllare l'uso di ChatGPT da parte dei loro figli?
OpenAI ha introdotto controlli parentali che permettono ai genitori di monitorare e limitare l'uso di ChatGPT da parte dei loro figli. Questi controlli includono la possibilità di impostare orari di utilizzo, disabilitare determinate funzioni e ricevere notifiche in caso di segnali di disagio emotivo.
