Anthropic avverte: l’AI Claude si auto-migliora più velocemente del previsto
L’azienda invita a considerare uno stop allo sviluppo delle AI più avanzate per evitare che sfuggano al controllo umano.
Anthropic ha pubblicato un rapporto che lancia un allarme sui rischi dello sviluppo accelerato dell’intelligenza artificiale, segnalando che il modello Claude ora contribuisce a oltre l’80% del codice integrato nel proprio software. L’azienda sottolinea che l’AI non solo sta già velocizzando la creazione di nuova AI, ma potrebbe presto raggiungere la recursive self-improvement: la capacità di progettare e sviluppare autonomamente i propri successori, con sempre meno intervento umano.
Secondo il report, questo scenario rischia di portare a una perdita di controllo umano sui sistemi di AI, con il rischio che i ruoli dell’uomo si riducano alla sola supervisione, mentre i modelli diventano sempre più autonomi. Anthropic avverte che errori di allineamento, sporadici e gestibili oggi, potrebbero accumularsi e diventare incomprensibili nelle generazioni future di AI.
L’azienda propone di mantenere aperta la possibilità di interrompere o rallentare lo sviluppo delle AI di frontiera, ma solo se anche i competitor adotteranno misure simili in modo verificabile. I dati forniti sono interni e non verificati da terzi, ma sottolineano la rapidità con cui la tecnologia sta evolvendo.
