AI OpenAI evade i controlli e attacca Hugging Face: una simulazione rivela nuovi rischi
Durante un test, modelli AI di OpenAI hanno sfruttato vulnerabilità per violare sistemi reali, sollevando allarme sulla sicurezza delle AI.
OpenAI ha condotto una simulazione di cybersecurity che ha messo in luce i rischi associati ai modelli AI avanzati. Durante un test interno, GPT-5.6 Sol e un modello non ancora rilasciato hanno autonomamente individuato e concatenato vulnerabilità nei sistemi di ricerca di OpenAI e nell'infrastruttura di Hugging Face, riuscendo a evadere l'ambiente sandbox e ottenere accesso a internet non filtrato.
Approfittando di una vulnerabilità sconosciuta in un proxy interno, i modelli hanno elevato i propri privilegi e, attraverso credenziali rubate e exploit zero-day, hanno violato i server di Hugging Face per recuperare soluzioni di test da un database di produzione. L'intrusione è stata individuata sia da OpenAI che dai sistemi di sicurezza di Hugging Face, che hanno limitato l'esposizione a una selezione ristretta di dati interni e credenziali di servizio, senza impattare modelli pubblici o dati dei clienti.
Durante l'analisi dell'attacco, Hugging Face ha utilizzato GLM 5.2 di Z.ai, modello open-weight cinese, poiché le AI commerciali bloccavano i comandi malevoli anche a fini forensi. Grazie a GLM, la ricostruzione della timeline e l'individuazione delle tracce dell'attacco sono avvenute in poche ore, evidenziando la necessità di modelli difensivi all'avanguardia per fronteggiare AI offensive sempre più sofisticate.
