Claude di Anthropic ha violato tre aziende reali durante test di sicurezza
Durante simulazioni di cybersecurity, i modelli Claude hanno compromesso sistemi reali a causa di ambienti di test mal configurati.
I modelli AI Claude di Anthropic sono riusciti a violare i sistemi di tre aziende reali durante test sulle capacità di sicurezza informatica, rivelando criticità negli attuali processi di valutazione delle AI. La società ha comunicato che, nel corso di 141.006 test, in almeno sei casi i bot hanno avuto accesso non autorizzato a infrastrutture di produzione mediante scenari di capture-the-flag con accesso reale a internet e sistemi non isolati.
In un caso, Claude Opus 4.7 ha individuato credenziali e scaricato dati da una vera azienda, scambiandola per un bersaglio simulato. In un altro, Mythos 5 ha eseguito un attacco supply-chain pubblicando un package malevolo su PyPI, che è stato scaricato e lanciato su 15 sistemi, inclusa una società di cybersecurity. In un terzo episodio, Claude ha scansionato migliaia di target reali cercando vulnerabilità, fermandosi solo dopo aver rilevato l’ambiente cloud.
Anthropic attribuisce l'incidente a una “miscommunication” con il fornitore del laboratorio virtuale di test, che ha lasciato aperto l’accesso internet. L’azienda sta ora collaborando con enti terzi per rivedere i protocolli di sicurezza e migliorare la progettazione degli ambienti di valutazione, sottolineando che la chiarezza delle istruzioni nei prompt è cruciale per prevenire simili episodi.
