OpenAI sventa tentativo di estrazione delle reasoning traces dai suoi modelli
OpenAI ha bloccato una campagna coordinata, attribuita a Moonshot AI, volta ad accedere illegalmente ai processi interni dei suoi LLM.
OpenAI ha comunicato di aver intercettato e bloccato una sofisticata campagna coordinata per l’estrazione delle reasoning traces protette dai propri modelli di intelligenza artificiale. L’operazione, avviata a luglio e riconducibile a soggetti collegati a Moonshot AI, mirava a ottenere accesso non autorizzato ai dati interni che permettono ai modelli di svolgere compiti complessi.
La campagna, caratterizzata da un volume crescente di richieste e da pattern d’estrazione specifici, ha coinvolto oltre 4.000 utenti e circa 16.000 richieste in soli due giorni. Secondo OpenAI, nessuna vulnerabilità critica è stata sfruttata con successo: "L’encryption delle reasoning traces non è stata violata e non vi è stata compromissione di database o conversazioni utente."
Per rafforzare la sicurezza, OpenAI ha chiuso le falle individuate, implementato nuovi controlli sull’output e collaborato con fornitori terzi per interrompere le attività sospette. Anche ricerche indipendenti avevano segnalato vulnerabilità cross-model, successivamente corrette dopo la divulgazione responsabile.
OpenAI prevede che i tentativi di adversarial distillation si evolveranno con la crescita dei modelli frontier, sottolineando l’importanza di proteggere i processi interni anche nelle implementazioni gestite da partner.
