Roblox introduce AI per moderare in tempo reale i contenuti dannosi
La piattaforma adotta un sistema multimodale che analizza scene complete e blocca server problematici per rafforzare la sicurezza degli utenti.
Roblox ha annunciato l’implementazione di un nuovo sistema di moderazione basato su AI capace di analizzare in tempo reale le scene di gioco, superando i limiti dei tradizionali filtri che valutavano singoli oggetti o messaggi.
La soluzione multimodale esamina simultaneamente avatar, testo e oggetti 3D per individuare comportamenti o contenuti che violano le Community Standards. Questo approccio consente, ad esempio, di riconoscere simboli offensivi creati tramite strumenti di disegno, intercettando situazioni problematiche che i controlli precedenti non rilevavano.
Quando il sistema rileva ripetute violazioni all’interno di una singola istanza di gioco, procede alla disattivazione immediata del server coinvolto, senza penalizzare l’intero titolo. Attualmente vengono chiusi circa 5.000 server al giorno. L’obiettivo dichiarato è arrivare a monitorare il 100% del tempo di gioco tramite questo strumento.
I creator dispongono ora di un dashboard aggiornato che mostra il numero di server chiusi, permettendo di individuare rapidamente eventuali problematiche e intervenire su elementi come emote personalizzate o strumenti di costruzione.
Contestualmente, Roblox collabora con altri attori del settore per lo sviluppo di un programma di formazione standardizzato per moderatori di community online, con l’intento di migliorare la gestione della sicurezza nei videogiochi.
