Anthropic rifiuta le richieste del Pentagono: niente sorveglianza di massa e armi autonome per Claude
Il CEO di Anthropic si oppone a richieste del governo USA di allentare i limiti su AI per usi in sorveglianza e armamenti autonomi.
Anthropic, azienda specializzata in intelligenza artificiale, ha deciso di non cedere alle pressioni del Pentagono riguardo l'abbassamento delle guardrails di Claude per consentire applicazioni come la sorveglianza di massa e l’uso in armi completamente autonome. L’azienda, guidata dal CEO Dario Amodei, considera la sorveglianza AI su larga scala una pratica incompatibile con i principi democratici e rischiosa per le libertà individuali. Amodei ha sottolineato come l’intelligenza artificiale può aggregare dati frammentati dei cittadini in profili dettagliati, superando i limiti delle attuali pratiche di raccolta dati.
L’altro punto critico riguarda l’uso di AI in armi autonome: secondo Anthropic, la tecnologia attuale non è in grado di replicare il giudizio umano necessario per operazioni belliche complesse. L’azienda afferma: “Non forniremo consapevolmente prodotti che mettano a rischio militari e civili”. Pur dichiarandosi disponibile a collaborare nella ricerca per aumentare l’affidabilità dei sistemi, Anthropic si è rifiutata di rimuovere i suoi limiti di sicurezza.
Di fronte al rischio di essere esclusa dai contratti governativi e di essere etichettata come rischio per la supply chain, Anthropic rimane ferma sulla propria posizione, invitando il Dipartimento della Difesa a riconsiderare le proprie richieste.
