Claude impiegato da sviluppatori russi per droni autonomi da combattimento
Un team freelance in Russia ha usato Claude per sviluppare software di swarm di droni capaci di selezionare e colpire bersagli senza supervisione umana.
Secondo un recente rapporto di Anthropic, alcuni sviluppatori freelance russi hanno utilizzato Claude per creare software avanzati destinati a uno swarm di droni autonomi da combattimento, noti come DronDoc o Serafim. Il sistema, basato su computer vision e coordinamento autonomo, è stato progettato per identificare e selezionare bersagli, inclusi esseri umani, e impartire comandi di detonazione in completa autonomia.
Gli sviluppatori hanno addestrato i modelli di visione artificiale su filmati di combattimento ripresi in Ucraina e condotto test simulati su posizioni reali, caricando poi il software su board di sviluppo per le prove hardware-in-the-loop. Hanno aggirato le restrizioni geografiche di Anthropic tramite VPN commerciali.
Dopo aver individuato l'attività sospetta, Anthropic ha bloccato gli account coinvolti e rafforzato i propri sistemi di sicurezza. Tuttavia, l'intervento non è stato immediato e la piattaforma Claude Code ha contribuito in modo significativo all'avanzamento del progetto.
Anthropic specifica che il gruppo non è affiliato direttamente allo Stato russo, pur senza rivelarne l'identità. Il caso evidenzia la crescente capacità delle piattaforme di AI generativa nel supportare progetti militari altamente complessi, sollevando interrogativi sull'efficacia delle attuali misure di controllo.
