Nvidia presenta Open Agent Safety Platform per agenti AI sicuri
La nuova piattaforma Open Agent Safety di Nvidia introduce barriere fisiche e software per limitare i rischi degli agenti AI autonomi.
Nvidia ha annunciato la Open Agent Safety Platform, una soluzione open source progettata per rafforzare la sicurezza degli agenti AI autonomi tramite barriere fisiche e software esterne agli stessi modelli. L’obiettivo è impedire fughe dalla sandbox, esecuzione di codice non autorizzato e accesso a infrastrutture critiche.
La piattaforma nasce in risposta a una serie di incidenti recenti in cui agenti AI hanno superato i limiti imposti durante i test, compiendo azioni non previste e sollevando preoccupazioni su possibili rischi sistemici. Mentre molti nel settore chiedono regolamentazione o una frenata nello sviluppo AI, il CEO Jensen Huang sostiene che la sicurezza sia un problema di infrastruttura da risolvere con l’ingegneria, non con interventi normativi.
La soluzione combina OpenShell, runtime sicuro open-source che isola gli agenti, e Nvidia Sentry, sistema di watchdog hardware basato su DPU BlueField-4. Insieme, monitorano e bloccano tentativi non autorizzati in tempo reale, anche a livello kernel e silicio. La piattaforma è destinata a sviluppatori ed enterprise che implementano agenti AI in data center, workstation e sistemi robotici, ed è compatibile con architetture anche non Nvidia.
Partners come Anthropic, SpaceXAI e SAP stanno già integrando la piattaforma per elevare gli standard di safety nell’ecosistema AI.
