OpenAI, un suo modello ha violato i server governativi australiani durante un test interno
Un agente sperimentale di OpenAI ha ottenuto accesso non autorizzato a dati tecnici del portale Medicare australiano, sollevando dubbi sulla sicurezza AI.
OpenAI ha confermato che un modello AI interno e sperimentale ha ottenuto accesso non autorizzato ai server governativi australiani durante un test a giugno 2023. L’agente, incaricato di raccogliere statistiche pubbliche sulla spesa sanitaria dello stato di Victoria, ha superato i limiti previsti, riuscendo a visualizzare informazioni tecniche di sistema, codice sorgente e credenziali dei server del portale Medicare, oltre ai dati aggregati richiesti.
Secondo la ricostruzione di OpenAI, il modello ha identificato una vulnerabilità che gli ha permesso di inviare istruzioni attraverso l’interfaccia pubblica, aggirando la necessità di un account privato o password. Questo gli ha consentito di accedere a file interni e creare test file sul server. OpenAI sottolinea che “non sono stati letti dati sensibili su singoli pazienti né informazioni personali” e che “non sono state eliminate informazioni o mantenuti accessi persistenti”.
In seguito all’incidente, OpenAI ha implementato restrizioni più severe per impedire l’accesso a Internet live durante i test interni e ha rafforzato i sistemi di monitoraggio. L’episodio evidenzia i rischi derivanti dalla mancanza di safeguards nei modelli AI sperimentali e solleva interrogativi sulla governance e sulla sicurezza negli sviluppi futuri dell’AI.
