Video AI di strangolamenti: allarme violenza su TikTok e X
Generative AI usata per creare contenuti violenti su piattaforme social, sollevando preoccupazioni su moderazione e regolamentazione.
Recentemente, sono stati individuati video generati da intelligenza artificiale su piattaforme come TikTok e X (ex Twitter) che mostrano donne e ragazze vittime di strangolamento. Questi contenuti sollevano gravi preoccupazioni sulla capacità delle piattaforme di moderare efficacemente i contenuti violenti, nonostante le regole esplicite contro tali materiali.
Questa situazione evidenzia una falla nei sistemi di controllo e moderazione dei contenuti, permettendo la diffusione di video che trivializzano la violenza. L'accessibilità delle tecnologie di generative AI consente a chiunque di creare e distribuire facilmente tali contenuti, amplificando il rischio di insensibilizzazione verso la violenza reale.
In risposta a questo fenomeno, il governo del Regno Unito ha recentemente dichiarato l'intenzione di rendere illegali le rappresentazioni pornografiche di strangolamento. Questo passo legislativo indica un crescente riconoscimento del problema da parte delle autorità e la necessità di un intervento normativo più incisivo per arginare l'abuso delle tecnologie di AI.
Cosa sono i video generati dall'intelligenza artificiale che mostrano violenza su piattaforme come TikTok e X?
I video generati dall'intelligenza artificiale (AI) sono contenuti creati utilizzando algoritmi avanzati che possono produrre immagini e video realistici senza intervento umano diretto. Recentemente, su piattaforme come TikTok e X (ex Twitter), sono stati individuati video AI che mostrano scene di strangolamento di donne e ragazze, sollevando preoccupazioni sulla capacità delle piattaforme di moderare efficacemente contenuti violenti.
Quali misure ha adottato il Regno Unito riguardo alle rappresentazioni pornografiche di strangolamento generate dall'AI?
In risposta alla diffusione di contenuti violenti generati dall'AI, il governo del Regno Unito ha dichiarato l'intenzione di rendere illegali le rappresentazioni pornografiche di strangolamento. Questo passo legislativo indica un crescente riconoscimento del problema e la necessità di un intervento normativo più incisivo per arginare l'abuso delle tecnologie AI.
Come l'accessibilità delle tecnologie di AI generativa influisce sulla diffusione di contenuti violenti online?
L'accessibilità delle tecnologie di AI generativa consente a chiunque di creare e distribuire facilmente contenuti, inclusi quelli violenti. Questo amplifica il rischio di insensibilizzazione verso la violenza reale e pone sfide significative per le piattaforme online nella moderazione e nel controllo di tali contenuti.
Quali sono le linee guida di TikTok riguardo ai contenuti generati dall'AI?
TikTok ha aggiornato le sue linee guida comunitarie per affrontare i contenuti generati dall'AI. La piattaforma richiede che i contenuti AI che mostrano scene realistiche siano chiaramente etichettati con termini come 'sintetico', 'falso', 'alterato' o 'non reale'. Inoltre, TikTok vieta i deepfake che impersonano persone reali senza un'etichettatura chiara e proibisce specificamente le approvazioni generate dall'AI senza il consenso effettivo della persona coinvolta.
Quali sono le implicazioni legali dell'Online Safety Act 2023 del Regno Unito per le piattaforme online?
L'Online Safety Act 2023 del Regno Unito impone alle piattaforme online un nuovo dovere di cura, richiedendo loro di agire contro contenuti illegali o dannosi per i bambini. Le piattaforme che non rispettano questo dovere possono essere soggette a multe fino a 18 milioni di sterline o al 10% del loro fatturato annuale, a seconda di quale sia maggiore. L'atto conferisce inoltre all'Ofcom il potere di bloccare l'accesso a determinati siti web.
Come le piattaforme online stanno affrontando la sfida dei deepfake e dei contenuti manipolati?
Le piattaforme online stanno implementando diverse misure per affrontare la sfida dei deepfake e dei contenuti manipolati. Ad esempio, TikTok ha introdotto strumenti per etichettare automaticamente i contenuti generati dall'AI e ha aggiornato le sue linee guida per vietare determinati tipi di contenuti AI. Inoltre, il Regno Unito ha introdotto l'Online Safety Act 2023, che impone alle piattaforme un dovere di cura per proteggere gli utenti da contenuti dannosi.
