Claude sventa tentativi di ricerca su armi biologiche da parte di attori statali
Anthropic ha rilevato cinque casi in cui Claude è stato usato per tentare di sviluppare virus e tossine modificati, bloccando gli accessi sospetti.
Anthropic ha pubblicato un nuovo report sulla sicurezza dei modelli AI, evidenziando cinque episodi in cui la piattaforma Claude è stata utilizzata da attori sponsorizzati da stati per tentativi di ricerca su armi biologiche. L’indagine copre il periodo tra novembre 2025 e settembre 2026 e mette in luce come diversi utenti abbiano impiegato tecniche avanzate di anonimizzazione e aggiramento dei blocchi regionali per ottenere informazioni su virus e tossine.
Tra i casi più gravi, sono state segnalate richieste di supporto per aumentare la virulenza del virus chikungunya e studiare l'adattamento del virus dell’influenza aviaria ai mammiferi, oltre a ricerche su orthopoxvirus come il vaiolo. In altri due episodi, i soggetti hanno chiesto aiuto per ottimizzare tossine di origine animale e batterica, ufficialmente per scopi terapeutici, ma con potenziale utilizzo offensivo.
"Abbiamo implementato modelli con salvaguardie più forti per prevenire questi abusi", ha dichiarato Anthropic, sottolineando la necessità di bilanciare progresso scientifico e sicurezza. In tutti i casi, gli account coinvolti sono stati bannati e le informazioni sono state condivise con le autorità competenti.
