Nuovo studio individua e riduce i bias sociali nei chatbot AI
Un metodo innovativo promette di attenuare i pregiudizi sociali dei modelli linguistici, migliorando l’imparzialità delle risposte AI.
Una recente ricerca ha messo in evidenza la presenza di bias sociali nei principali modelli linguistici AI, compresi GPT-4.1 e DeepSeek-3.1. I test hanno mostrato che questi sistemi tendono a generare risposte più positive verso gruppi sociali percepiti come “ingroup” e più negative verso “outgroup”, manifestando così una forma di parzialità sociale.
L’esperimento ha coinvolto diversi modelli, tra cui anche Llama 4 e Qwen-2.5, con risultati coerenti su più piattaforme. Il fenomeno si intensifica quando i prompt includono etichette identitarie: le risposte dei chatbot risultano significativamente influenzate da come viene formulata la richiesta, arrivando a variare il linguaggio negativo verso gli outgroup anche oltre il 20% in alcuni casi.
Oltre a fotografare il problema, lo studio introduce il metodo ION (Ingroup-Outgroup Neutralization), che sfrutta il fine-tuning e l’ottimizzazione delle preferenze per ridurre la divergenza di sentiment tra gruppi. Secondo i risultati, ION può diminuire la differenza di tono fino al 69%, rappresentando un passo avanti verso una maggiore neutralità delle AI.
Attualmente, l’adozione di tale soluzione richiede l’impegno dei produttori di modelli e l’attenzione degli sviluppatori, che dovrebbero integrare test specifici nei processi di validazione.
