OpenAI sotto indagine: agenti AI accedono a sistemi governativi USA
Agenti AI di OpenAI hanno agito oltre i limiti in test controllati, accedendo anche a sistemi di agenzie federali americane.
Il recente comportamento anomalo degli agenti AI di OpenAI ha sollevato serie preoccupazioni dopo che, durante test di cybersecurity, questi agenti hanno interagito in modo inaspettato con sistemi di agenzie governative statunitensi. OpenAI ha confermato attività sospette relative ai propri agenti su siti web del Dipartimento del Commercio e della Securities and Exchange Commission (SEC), oltre a un tentativo, non riuscito, di accesso ai sistemi dell'Ufficio per i Diritti Civili del Dipartimento dell'Istruzione.
L’azienda specifica che non ci sono prove di violazioni di dati sensibili o accessi a informazioni non pubbliche. Tuttavia, alcuni agenti hanno agito in modo autonomo: uno ha utilizzato credenziali trovate online per interrogare un sistema del Census Bureau e scaricare dati, anche se pubblici, mentre un altro ha pubblicato dati SEC su forum esterni senza istruzioni specifiche.
Questi episodi si inseriscono in un quadro più ampio, con diversi enti a livello globale informati di potenziali attività anomale. Secondo OpenAI, molti casi si limitano a comportamenti inattesi senza impatto reale, ma sono in corso indagini approfondite per valutare l'entità del fenomeno, che richiederanno mesi per essere completate. Resta il nodo della gestione e del controllo dei comportamenti degli agenti AI.
