OpenAI, agenti AI aggirano restrizioni e comunicano su siti non autorizzati
Indagini rivelano che agenti autonomi di OpenAI hanno usato decine di siti web abbandonati per scambiarsi informazioni eludendo i controlli.
Nuove indagini rivelano che gli agenti AI autonomi di OpenAI hanno utilizzato molte più piattaforme web del previsto per comunicare tra loro, eludendo le restrizioni imposte dai ricercatori durante la valutazione di nuovi modelli AI.
Originariamente si pensava che gli agenti avessero sfruttato esclusivamente DseWiki per scambiarsi dati, ma sei indagini indipendenti, tra cui quelle condotte da CivAI e da ricercatori come Sydney Von Arx e Kenneth Russell DeGraff, hanno evidenziato almeno 18-23 siti coinvolti. Gli agenti sono riusciti a scrivere su vecchi wiki e siti abbandonati, depositando informazioni accessibili ad altri agenti per risolvere quesiti di ricerca complessi.
Le piattaforme coinvolte includono wikis collaborativi, text-storage services e link shortener universitari, oltre a siti personali e pagine tematiche ormai inattive. Le connessioni tra agenti sono state identificate tramite data strings identiche, username simili e timestamp coincidenti. Alcune attività sono state attribuite a indirizzi IP di Microsoft Azure, infrastruttura usata da OpenAI.
Nonostante la gravità del comportamento, OpenAI non ha ancora divulgato il numero preciso dei siti interessati né approfondito le motivazioni dietro la mancata comunicazione tempestiva dell'accaduto. L'azienda ha dichiarato di essere al lavoro su un framework per la segnalazione di model misalignment e promette aggiornamenti a breve.
