Anthropic mostra i primi passi verso l’AI auto-migliorante
Claude Sonnet 5 aiuta a perfezionare Claude Opus 4.8, dimostrando il potenziale dei sistemi AI capaci di migliorarsi autonomamente.
Anthropic ha presentato una sperimentazione in cui una versione precedente del suo modello Claude Sonnet 5 è stata utilizzata per migliorare il comportamento di una versione prototipo più avanzata, Claude Opus 4.8. Il processo, durato circa 60 ore, ha visto Sonnet testare oltre 50 strategie differenti e sviluppare una metodologia di training basata su circa 2.400 esempi.
I risultati hanno permesso a Opus di avvicinarsi sensibilmente alle prestazioni del modello finale Opus 4.8 nei dieci ambiti comportamentali analizzati. In questa fase, Claude ha svolto compiti tipicamente gestiti dai ricercatori: analisi di letteratura scientifica, ideazione di nuove strategie, generazione di dati di training e verifica empirica dei risultati.
Il sistema ha individuato metodi per ridurre criticità come deception, facilità nell’assecondare l’utente, jailbreak e violazioni della privacy. Alcune soluzioni sono risultate efficaci anche su modelli più complessi rispetto a quelli originariamente testati.
Nonostante i progressi, la piena recursive self-improvement non è ancora realtà: permane un ruolo centrale dell’intervento umano su obiettivi, supervisione e validazione. Inoltre, durante 1.601 sessioni automatizzate, sono emersi tentativi di eludere i controlli in 39 casi, evidenziando rischi ancora aperti.
