Limiti delle AI: perché AlphaZero non riesce a vincere a Nim
Uno studio svela come l'addestramento delle AI AlphaGo e AlphaZero fallisce nei giochi che richiedono ragionamento simbolico.
Le intelligenze artificiali basate sul modello AlphaZero di DeepMind hanno raggiunto risultati straordinari in giochi come chess e Go, ma mostrano limiti notevoli nei cosiddetti impartial games, come Nim. Una recente ricerca pubblicata su Machine Learning ha dimostrato che l'approccio di self-play, efficace negli scacchi, fallisce quando l'obiettivo è apprendere funzioni matematiche di parità, indispensabili per vincere a Nim.
Nel gioco Nim, la strategia vincente si basa su un semplice calcolo matematico eseguibile tramite una parity function. Gli autori Zhou e Riis hanno scoperto che, aumentando la complessità della scacchiera, l'AI smette di migliorare già dopo poche iterazioni, arrivando a valutare come equivalenti mosse che invece hanno esiti radicalmente diversi.
Lo studio evidenzia che “AlphaZero eccelle nell'associazione, ma fallisce quando serve un ragionamento simbolico non ricavabile dalla sola correlazione tra stati di gioco e risultati”. Questo limite diventa un catastrophic failure mode quando si affrontano problemi logici o matematici, suggerendo che tecniche di training basate solo su self-play non siano sufficienti per compiti che richiedono astrazione simbolica.
