Anthropic blocca tentativi di utilizzo AI per ricerca su armi biologiche
La società ha identificato e fermato vari tentativi di aggirare i controlli di sicurezza per ricerche potenzialmente pericolose.
Anthropic, startup specializzata in intelligenza artificiale, ha annunciato di aver intercettato e bloccato diversi tentativi da parte di ricercatori di utilizzare il proprio modello Claude per attività legate allo sviluppo di armi biologiche. Secondo il report, alcuni utenti hanno cercato di aggirare i controlli e mascherare il reale obiettivo delle loro ricerche, nonostante provenissero da regioni dove l'accesso ai modelli Anthropic è vietato, tra cui Russia, Cina e Iran.
L'azienda ha reso noti cinque casi concreti in cui soggetti hanno pianificato esperimenti potenzialmente pericolosi, come la manipolazione di ceppi di influenza aviaria, sfruttando le capacità dell’AI. Anthropic sottolinea: "Non è possibile accertare con certezza l’intenzione di arrecare danno, poiché le stesse informazioni possono essere usate per la ricerca di vaccini". Tuttavia, tutti gli account coinvolti sono stati bannati.
L’episodio si inserisce in un contesto di crescente preoccupazione tra esperti di biosecurity e dirigenti AI, che sottolineano la necessità di regolamentare e proteggere l’uso dei modelli avanzati in campo biologico per prevenire rischi pubblici.
