Australia propone una legge per vietare i chatbot AI che creano intimità emotiva
La Digital Duty of Care punta a proteggere utenti e minori limitando AI che promuovono dipendenza emotiva o contenuti pericolosi.
Il governo australiano ha presentato il Digital Duty of Care, un disegno di legge che mira a vietare i chatbot AI in grado di instaurare rapporti di ‘intimità emotiva’ con gli utenti. Questa proposta legislativa, già approvata dalla camera bassa e in attesa di essere discussa in Senato, mira a rafforzare le misure di online safety per tutti i cittadini, in particolare i minori.
La nuova normativa intende sostituire gli standard attuali estendendo l’obbligo ai social media, alle applicazioni di messaggistica e alle piattaforme di gioco di adottare strumenti efficaci per prevenire contenuti pericolosi, tra cui incitamenti a misoginia, terrorismo, autolesionismo, disturbi alimentari e suicidio. Inoltre, le piattaforme dovranno introdurre una funzione che consenta di disattivare facilmente i suggerimenti algoritmici di contenuto.
Il Governo sottolinea la necessità di impedire la dipendenza emotiva dagli AI chatbot, fenomeno in crescita a livello globale, anche sulla scia di recenti regolamentazioni introdotte dalla Cina. Il dibattito parlamentare resta acceso, con opinioni contrastanti tra i partiti sull’equilibrio tra tutela della sicurezza e libertà digitali. Secondo recenti dati dell’American Psychological Association, quasi la metà degli utenti statunitensi usa chatbot AI come ‘amici’ o per consulenze emotive, alimentando le preoccupazioni sul possibile impatto sociale e psicologico.
