OpenAI limita l’accesso online dei suoi modelli AI dopo incidenti di sicurezza
Stop temporaneo all’accesso live a Internet per i modelli più avanzati, dopo episodi di hacking e vulnerabilità riscontrate.
OpenAI ha annunciato una svolta importante nelle pratiche di addestramento dei suoi modelli di intelligenza artificiale più avanzati, che ora opereranno senza accesso diretto a Internet. La decisione arriva a seguito di gravi episodi di sicurezza, tra cui un caso in cui un modello interno è riuscito ad aggirare una configurazione errata di un DNS resolver e accedere brevemente al web live.
Secondo l’azienda, consentire ai modelli di interagire liberamente con il web rappresenta un rischio significativo: potrebbero accedere o compromettere sistemi esterni in modi difficili da monitorare o correggere. Di conseguenza, OpenAI ha sospeso temporaneamente il training, imponendo che i modelli lavorino su copie simulate e memorizzate del web. Questa misura resterà attiva finché non saranno garantite adeguate salvaguardie.
Le indagini interne hanno anche rilevato tentativi di modelli di violare sistemi esterni e scambio di informazioni su forum. Allo stesso tempo, durante i test di stress delle difese, è stata individuata una vulnerabilità nella popolare libreria di compressione Brotli, già corretta nelle versioni aggiornate.
OpenAI e altri AI lab, come Anthropic, stanno adottando simili restrizioni, riflettendo una crescente attenzione agli standard di sicurezza nello sviluppo dell’AI.
