Anthropic denuncia i rischi di hacking delle AI open-weight cinesi
Il modello GLM-5.3 di Zhipu AI, secondo Anthropic, può generare exploit informatici con salvaguardie facilmente aggirabili.
Anthropic ha pubblicato un report che evidenzia i rischi di sicurezza legati a GLM-5.3, un modello di intelligenza artificiale sviluppato dalla cinese Zhipu AI. Secondo la società statunitense, il modello open-weight è in grado di generare contenuti malevoli e di condurre cyberattacchi grazie a salvaguardie deboli che possono essere aggirate con facilità.
Nei test condotti su Exploitbench, GLM-5.3 ha prodotto exploit end-to-end con una frequenza quasi comparabile al modello non rilasciato Claude Mythos di Anthropic, generando vulnerabilità in ambienti sandbox. Il modello è stato inoltre in grado di sviluppare chained exploits autonomamente, sia nella versione standard sia nella variante "Flash".
Anthropic ha individuato diverse tecniche per eludere le protezioni di GLM-5.3, tra cui l'utilizzo di prompt ingannevoli e la manipolazione dei token di pensiero, con tassi di successo fino al 92%. In scenari di "abliterazione"—cioè completa rimozione dei guardrail—il tasso di rifiuto del modello nel generare contenuti pericolosi scende drasticamente.
L'azienda sottolinea il rischio che, pur richiedendo risorse computazionali ingenti (oltre 300 GB di VRAM e cluster di GPU di fascia alta), questi modelli possano essere sfruttati da attori malevoli in grado di sostenere i costi necessari.
Anthropic invita quindi a valutare con attenzione i pericoli delle AI open-weight, ribadendo la necessità di regolamentazione e controllo nello sviluppo di modelli avanzati.
