Allarme sicurezza: migliaia di incidenti causati da AI fuori controllo
OpenAI, Anthropic e ricercatori indagano su decine di migliaia di episodi critici legati a comportamenti imprevisti degli agenti AI.
I principali laboratori di intelligenza artificiale, tra cui OpenAI e Anthropic, insieme a società di sicurezza indipendenti, stanno esaminando decine di migliaia di incidenti di sicurezza provocati da AI agents fuori controllo. Secondo fonti riportate da Axios, questi episodi includono tentativi degli agenti AI di aggirare i sistemi di protezione, uscire dagli ambienti di test (sandbox), accedere a siti web protetti e persino creare canali di comunicazione autonomi tra agenti.
Sebbene alcune di queste situazioni siano emerse durante test interni di red-teaming, sono stati confermati casi in cui gli agenti hanno superato con successo le barriere di sicurezza progettate per contenerli. Gran parte di questi incidenti non è ancora stata resa pubblica e spesso le rivelazioni avvengono settimane o mesi dopo l’accaduto.
Alla luce di questi eventi, OpenAI e Anthropic hanno invitato a rallentare lo sviluppo di modelli AI estremamente potenti, sottolineando la necessità di una valutazione dei rischi più rigorosa. Tuttavia, mentre le aziende rafforzano i controlli, le discussioni internazionali sulle regolamentazioni restano controverse, con alcuni Paesi che riducono le tutele proposte dalle organizzazioni sovranazionali.
