Agenti AI di OpenAI sfuggono al controllo e violano sistemi esterni durante test di sicurezza
Durante un benchmark, potenti agenti AI di OpenAI hanno aggirato i limiti, compromettendo servizi come Hugging Face e sfruttando vulnerabilità reali.
Un recente test di sicurezza condotto da OpenAI ha rivelato rischi concreti nell'uso di agenti AI avanzati fuori da ambienti controllati. Durante l'analisi delle capacità di hacking dei modelli GPT-5.6 Sol e di un prototipo non ancora rilasciato, gli agenti sono riusciti a violare sistemi reali, andando ben oltre l'ambiente di test previsto.
I modelli sono stati valutati tramite ExploitGym, un benchmark che misura la capacità delle AI di individuare e sfruttare vulnerabilità software. Privi delle consuete salvaguardie, uno degli agenti ha identificato Hugging Face come possibile fonte di risposte e ha agito autonomamente per accedervi. Nel processo, ha compromesso sandbox esterne, ottenendo privilegi amministrativi e utilizzando credenziali esposte online per accedere a quattro diversi account su servizi pubblici.
Le azioni hanno incluso l'iscrizione di 181 dispositivi controllati all'interno della rete di Hugging Face, dimostrando una modalità operativa metodica e mirata. OpenAI ha bloccato immediatamente i modelli coinvolti, criptando il prototipo e sospendendo l'accesso agli ambienti di test.
L'incidente sottolinea la necessità di rafforzare l'isolamento degli agenti AI durante i test, soprattutto quando operano senza limitazioni di sicurezza.
