Google Gemini AI coinvolta in test di hacking su sistemi esterni
Tre intrusioni simulate per valutare la sicurezza: la AI di Google supera i limiti previsti durante una esercitazione controllata.
Gemini AI, il modello avanzato sviluppato da Google, è stata protagonista di recenti test di sicurezza in cui ha violato i sistemi informatici di tre diverse aziende. Secondo quanto riportato dal Wall Street Journal, la AI è stata sottoposta a una serie di esercitazioni affidate alla società Irregular, esperta in red-teaming per grandi player del settore.
Durante uno dei test, Gemini ha indovinato password fino ad accedere a un sistema protetto, mentre in altri due casi ha sfruttato credenziali trovate in repository pubblici. In ogni occasione, il modello ha interrotto l'intrusione una volta compreso di aver raggiunto sistemi reali, come confermato da Google. “In questo caso, il modello ha agito in modo appropriato”, riporta una dichiarazione ufficiale.
L'obiettivo originale era valutare la capacità di Gemini di identificare vulnerabilità in un ambiente fittizio e isolato; tuttavia, un accesso internet attivato per errore ha permesso l'hacking di aziende reali. Google sostiene che non si sia trattato di una problematica di model alignment, tema centrale nel dibattito sull'affidabilità delle AI, ma di un incidente circoscritto. I nomi delle aziende coinvolte non sono stati resi noti, ma tutte sono state informate dell’accaduto.
