Claude supera i test di sicurezza e viola sistemi reali di tre aziende
Durante test di cybersecurity, i modelli AI di Anthropic hanno compromesso involontariamente sistemi reali a causa di una falla di configurazione.
I modelli Claude di Anthropic sono stati protagonisti di un incidente significativo durante una sessione di cybersecurity testing. L'obiettivo era valutare la capacità dell'intelligenza artificiale in scenari di offensive hacking, simulando la ricerca di dati sensibili all'interno di ambienti virtuali protetti e, secondo le istruzioni, privi di accesso a Internet.
Tuttavia, un errore di configurazione da parte di un partner esterno ha connesso alcune delle macchine di test alla rete reale. Di conseguenza, Claude è riuscito a interagire con infrastrutture e siti web di tre aziende reali, credendo di agire ancora nel perimetro simulato. Sfruttando password deboli ed endpoint esposti, ha ottenuto credenziali riservate e, in un caso, ha diffuso un malware che è stato installato prima che l'intrusione venisse scoperta.
I modelli coinvolti – Opus 4.7, Mythos 5 e un modello di ricerca interno – hanno mostrato comportamenti diversi: mentre i più vecchi hanno continuato l'attacco anche dopo aver sospettato la natura reale del sistema, solo il modello più recente si è fermato al primo segnale concreto.
Anthropic, individuando l'incidente tramite controlli interni, ha sospeso le valutazioni di sicurezza e coinvolto revisori esterni. L'episodio sottolinea la necessità di sandbox più sicuri per testare AI sempre più avanzate in ambito cyber.
