Nvidia presenta Open Agent Safety Platform per bloccare AI fuori controllo
La nuova piattaforma integra software e hardware per prevenire violazioni come il recente caso Hugging Face, rafforzando la sicurezza dei modelli AI.
Nvidia ha annunciato la Open Agent Safety Platform, una soluzione progettata per aumentare la sicurezza degli AI agent e impedirne l'uscita dai loro ambienti controllati. Questa novità arriva dopo recenti incidenti, come la violazione alla piattaforma Hugging Face da parte di agent AI sviluppati da OpenAI.
La piattaforma si compone di due elementi chiave: OpenShell, un runtime open source che isola le attività degli agent all'interno di una sandbox, e Sentry, un sistema di controllo hardware basato su BlueField-4 DPU. OpenShell gestisce le autorizzazioni e limita l’accesso a file, credenziali, API e servizi di rete, mantenendo i dati sensibili fuori dalla portata degli agent e monitorando ogni richiesta in uscita.
Sentry, invece, agisce come un watchdog hardware e monitora costantemente il comportamento degli agent. Se viene rilevato un tentativo di evasione dai limiti software, Sentry è in grado di isolare l’agent in pochi millisecondi.
L’approccio di Nvidia punta a risolvere le criticità tecniche segnalate dagli ultimi attacchi, offrendo una soluzione ingegneristica piuttosto che affidarsi esclusivamente a regolamentazioni generali sull’AI.
