Anthropic chiede di rallentare l'AI mentre Claude scrive il suo codice

C'è un dato, nel report pubblicato da Anthropic il 4 giugno 2026, che vale la pena leggere con attenzione: Claude, il modello di intelligenza artificiale sviluppato dall'azienda, è oggi responsabile di oltre l'80% del codice informatico integrato nei propri sistemi di produzione. Non si tratta semplicemente di un assistente che aiuta i programmatori a scrivere qualche riga più in fretta — fenomeno già diffuso in molte aziende tech. Qui siamo dentro uno dei laboratori di ricerca sull'AI più avanzati al mondo, e l'automazione ha raggiunto il cuore del processo: la costruzione dei sistemi di prossima generazione.

L'AI che costruisce l'AI

Anthropic definisce questo passaggio con un'espressione tecnica: recursive self-improvement, ovvero il miglioramento ricorsivo. L'idea è che un sistema di AI possa contribuire in modo sempre più diretto alla progettazione dei propri successori, riducendo progressivamente il ruolo umano da "autore" a "supervisore". Il report non descrive un salto improvviso verso una macchina che si riscrive da sola: racconta piuttosto una deriva graduale. Prima l'AI scrive componenti applicative, poi automatizza strumenti interni, poi accelera interi cicli di ricerca e sviluppo, comprimendo i tempi di sperimentazione, valutazione e rilascio.

Vale la pena distinguere due versioni di questo fenomeno, che spesso vengono confuse. C'è una versione debole — già dirompente — in cui l'AI rende più efficiente il lavoro umano: scrive codice, propone esperimenti, automatizza test. E c'è una versione forte, quella evocata storicamente con il termine intelligence explosion, in cui un sistema progetta dall'inizio alla fine la generazione successiva, definendo architetture, obiettivi, dati e valutazioni in modo sempre più autonomo. Anthropic sostiene di essere su un percorso che va dalla prima verso la seconda — e che questo percorso non richiede un singolo salto tecnologico, ma la concatenazione di molti passi ciascuno apparentemente ragionevole.

Quando l'AI accelera la produzione di nuova AI, il rischio non è più localizzabile in un singolo errore

Il problema non è il codice, è il controllo

Per capire cosa cambia davvero, conviene spostare l'attenzione dal numero "80%" alla parola "merge". In un'organizzazione software moderna, il codice che finisce in produzione passa attraverso revisioni umane, test automatici, controlli di qualità e pipeline di sicurezza. Se Claude è davvero responsabile della maggior parte di questo codice, la domanda diventa: gli esseri umani stanno scrivendo meno, ma stanno capendo di più? O stanno semplicemente validando output che non riescono più a esaminare in profondità? La produttività può aumentare anche quando la comprensione complessiva del sistema diminuisce: è un compromesso classico nell'ingegneria quando l'output cresce più rapidamente della capacità di controllo.

Il report insiste su un punto specifico: gli errori di allineamento — cioè i casi in cui un sistema AI si comporta in modo difforme dagli obiettivi umani — oggi possono sembrare sporadici e gestibili, quasi "rumore" statistico. Ma se la catena di strumenti e modelli che producono nuovi strumenti e modelli diventa sempre meno ispezionabile, quegli errori rischiano di accumularsi e di trasmettersi alle generazioni successive senza che sia chiaro dove si siano introdotti, né chi ne sia responsabile.

La proposta di una pausa coordinata

Da questa analisi Anthropic ricava una richiesta politica: mantenere aperta la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell'AI di frontiera, per permettere alla ricerca sulla sicurezza e alle istituzioni di tenere il passo. L'azienda riconosce però l'obiezione più ovvia: una pausa unilaterale non regge in un mercato competitivo. Per questo la proposta è costruita su una condizione precisa — dovrebbe essere coordinata e verificabile anche rispetto ai concorrenti.

È qui che il discorso si sposta dal piano tecnico a quello della governance. "Verificabile" è la parola che pesa di più: in un settore in cui il vantaggio competitivo dipende da modelli, dati e potenza di calcolo, come si dimostra a un rivale — o a un'autorità pubblica — di aver davvero rallentato, senza rivelare informazioni riservate? La risposta porta a temi finora rimasti ai margini del dibattito: contabilizzazione della potenza di calcolo impiegata, audit dei data center, controlli sulle catene di fornitura per l'addestramento dei modelli. E porta anche alla domanda politica che Associated Press ha messo in primo piano il 5 giugno 2026, citando una posizione alternativa attribuita a OpenAI: alla fine, dovrebbero essere i governi democratici — non accordi volontari tra aziende — a definire regole, salvaguardie e meccanismi di responsabilità.

L'Europa ha già un'infrastruttura

Un coordinamento tra laboratori privati può produrre principi e buone pratiche, ma difficilmente può imporre sanzioni o ridurre i comportamenti opportunistici. Un quadro pubblico, invece, può trasformare la sicurezza da scelta reputazionale a requisito di mercato. In Europa questo cambio di paradigma esiste già, almeno come architettura normativa: la Commissione Europea, nelle pagine dedicate agli obblighi per i modelli di AI per usi generali — i cosiddetti GPAI — lega la nozione di "rischio sistemico" anche alla potenza di calcolo usata per l'addestramento, citando una soglia presuntiva di 10²⁵ FLOP oltre la quale scattano obblighi aggiuntivi.

Questo dettaglio apparentemente tecnico introduce qualcosa che nella proposta di Anthropic manca: un criterio operativo per decidere quali sistemi siano davvero "di frontiera" e quindi soggetti a un regime speciale. Se il settore chiede la facoltà di frenare, serve prima stabilire chi è soggetto al freno e con quali criteri. L'Unione Europea, con il meccanismo del Code of Practice come strumento di conformità, sta costruendo un'infrastruttura di documentazione, valutazioni del rischio e gestione degli incidenti. Non è una "pausa", ma è un modo per rendere verificabili alcune affermazioni: quali test sono stati condotti, quali rischi identificati, quali misure adottate.

La domanda vera non è quanto velocemente migliora un modello, ma chi può permettersi di dire basta

Il sospetto del conflitto di interessi

Il report di Anthropic vive però anche di una tensione reputazionale difficile da ignorare. Quando un laboratorio che compete nel mercato dei modelli più potenti chiede di poter frenare, una parte della comunità tecnica legge un conflitto di interessi: la sicurezza come moat, cioè come fossato difensivo, una barriera che avvantaggia chi è già avanti e può sostenere i costi della conformità normativa. È una critica emersa immediatamente nei commenti e nelle analisi che hanno accompagnato la pubblicazione, e non va liquidata come semplice cinismo. Se la regolazione diventa complessa, le organizzazioni più grandi riescono a sostenerla meglio; se la conformità diventa una funzionalità, rischia di trasformarsi in un vantaggio competitivo.

Cosa cambia per chi usa questi strumenti

Per aziende e pubbliche amministrazioni che adottano modelli di frontiera attraverso API o servizi cloud, il tema non è scegliere tra entusiasmo e paura. È capire cosa cambia quando il ciclo di sviluppo si comprime. Se un fornitore rilascia aggiornamenti più frequenti perché l'AI ne accelera la produzione, le organizzazioni a valle devono rafforzare i propri meccanismi di gestione del rischio: controllo delle versioni, valutazioni di impatto, verifiche su dati e output, piani di risposta agli incidenti. La velocità del fornitore diventa un rischio operativo per il cliente.

La proposta di Anthropic, in definitiva, sembra meno una richiesta di "stop" e più un tentativo di spostare il centro della discussione: dalla performance alla governabilità. Se l'AI inizia davvero a contribuire in modo rilevante alla costruzione della prossima AI, la domanda centrale non riguarda solo la velocità con cui migliora un modello. Riguarda chi, in un sistema globale competitivo, può permettersi di dire "fin qui" — e con quali prove, controlli e conseguenze reali.