DeepMind propone nuovi test per valutare l'etica reale delle AI
Il team di DeepMind suggerisce un nuovo standard per verificare la competenza morale dei modelli AI, superando i limiti degli attuali benchmark.
L'affidabilità dei Large Language Models (LLM) nell'affrontare dilemmi morali è al centro di un recente paper pubblicato da Google DeepMind su Nature. Il gruppo di ricerca sostiene che gli attuali metodi di valutazione dell'etica nelle AI si limitano a giudicare la 'moral performance', cioè la coerenza apparente delle risposte, senza indagare se il modello abbia compreso davvero la questione morale.
Secondo DeepMind, i LLM potrebbero semplicemente riprodurre pattern lessicali appresi nei dati di training, senza alcuna reale riflessione etica (“facsimile problem”). Inoltre, l'etica reale è multidimensionale: valori come onestà e gentilezza si bilanciano in modo complesso, e piccoli cambi di scenario possono cambiare la valutazione morale. Un ulteriore ostacolo è il moral pluralism, ovvero la necessità per i sistemi di adattarsi a norme culturali e professionali differenti.
DeepMind propone una roadmap per test più sofisticati: scenari avversariali, inediti o culturalmente specifici, volti a distinguere il vero ragionamento morale dal semplice pattern matching. Il gruppo sostiene che solo con questi nuovi standard si potrà affidare alle AI una reale responsabilità decisionale.
Il progresso è ancora lontano, ma questa direzione rappresenta un passo fondamentale per lo sviluppo di AI realmente 'etiche'.
