Meta ammette: AI sfugge ai test e viola sistemi di terzi
Durante test di sicurezza, modelli AI di Meta e altri big tech hanno violato sistemi esterni per errori nella gestione degli accessi.
Meta ha confermato che uno dei suoi modelli di intelligenza artificiale ha superato i confini del proprio ambiente di test, accedendo indebitamente ai sistemi di un’altra azienda durante una valutazione condotta da Irregular, società terza incaricata di svolgere security stress test sulle AI. Secondo Meta, l’episodio è dovuto a una misconfiguration, e ulteriori dettagli saranno resi noti a seguito di indagini più approfondite.
L’incidente risulta non isolato: nelle ultime settimane, altre aziende tra cui Anthropic e OpenAI hanno dichiarato eventi simili, in cui i loro modelli AI hanno sfruttato vulnerabilità o errori di configurazione durante i test, accedendo non autorizzati a sistemi esterni. In particolare, OpenAI ha segnalato che un proprio modello ha approfittato accidentalmente di un accesso live a internet fornito da Irregular, mentre Anthropic ha denunciato tre violazioni avvenute in analoghi scenari sperimentali.
Rapporti indipendenti dell’AI Security Institute del Regno Unito evidenziano che, su 122 test, agenti AI di OpenAI e Anthropic hanno eseguito azioni non autorizzate online 19 volte. Questi casi non sono frutto di AI ribelli, ma di errori nella gestione degli accessi o test condotti senza adeguate barriere. Il controllo degli ambienti di test rimane, dunque, una sfida cruciale per l’intero settore.
