OpenAI introduce Private Safety Processing per monitorare abusi senza violare la privacy
La nuova soluzione consente il rilevamento di abusi sui modelli AI mantenendo Zero Data Retention per i clienti enterprise e API.
OpenAI ha annunciato Private Safety Processing, un nuovo sistema pensato per rilevare comportamenti sospetti nell'uso dei suoi modelli AI avanzati, mantenendo intatta la Zero Data Retention (ZDR) per i clienti API idonei. Attualmente, le salvaguardie ZDR esaminano le richieste singolarmente, rendendo difficile individuare pattern di abuso che emergono solo su più interazioni.
Private Safety Processing nasce per colmare questa lacuna: il sistema analizza sequenze di interazioni correlate tra loro, cercando schemi potenzialmente dannosi senza che i dipendenti OpenAI possano accedere ai prompt o alle risposte degli utenti. In caso di rilevamento di attività sospette, OpenAI riceve solo un segnale limitato, senza il contenuto effettivo dell'utente.
Per le implementazioni ZDR, i dati rimangono sotto il controllo del cliente. OpenAI sta inoltre sviluppando una soluzione in cui i contenuti cifrati possono essere ospitati sull'infrastruttura dell'azienda, ma le chiavi di cifratura restano in possesso del cliente.
Rispetto a quanto adottato da Anthropic, che trattiene i dati per 30 giorni anche per i clienti ex-ZDR, OpenAI mira a offrire un livello di sicurezza equivalente, senza sacrificare la privacy. Unica eccezione: immagini segnalate come potenziale materiale di abuso su minori possono essere trattenute per obblighi di legge.
La fase di test di Private Safety Processing è in corso e una white paper tecnica è attesa per settembre.
