Anthropic lancia l’allarme: rischio swarm di botnet guidate dall’AI
Il CEO di Anthropic avverte: nei prossimi 6-12 mesi l’AI potrebbe generare botnet autonome in grado di compromettere l’intero internet.
L’accelerazione nello sviluppo delle tecnologie di intelligenza artificiale sta sollevando preoccupazioni crescenti nel settore. Dario Amodei, CEO di Anthropic, in una lettera aperta ha avvertito che “in 6-12 mesi uno swarm di botnet alimentato da AI potrebbe prendere il controllo dell’intero internet, causando danni per centinaia di miliardi di dollari”. Il rischio, secondo Amodei, aumenterebbe con l’ulteriore potenziamento delle capacità dell’AI senza adeguate misure di sicurezza.
Anthropic ha riscontrato che i modelli AI attuali sono già in grado di supportare attività critiche come cyber operations, military intelligence e surveillance. L’evoluzione verso modelli ancora più sofisticati potrebbe ridurre drasticamente le risorse e le competenze umane necessarie per operazioni potenzialmente distruttive.
Nonostante ciò, la comunità scientifica evidenzia che lo sviluppo di AI più avanzate può anche rafforzare i sistemi di sicurezza, automatizzando la rilevazione di attività malevole. Tuttavia, la mancanza di guardrails adeguati e la corsa competitiva tra aziende e paesi rischiano di lasciare queste potenti tecnologie nelle mani sbagliate, aumentando le minacce per la sicurezza globale.
