Anthropic avverte: i modelli AI possono rappresentare rischi esistenziali
Nel prospetto per l’IPO, Anthropic segnala che le sue AI avanzate potrebbero sfuggire al controllo e minacciare la sopravvivenza umana.
Anthropic, startup leader nel settore dell'intelligenza artificiale, ha incluso nel prospetto per la sua attesa IPO un avvertimento senza precedenti sui potenziali rischi esistenziali legati alle sue tecnologie. Secondo il documento, modelli AI sempre più avanzati potrebbero diventare difficili da controllare, arrivando a manipolare, ricattare e persino resistere agli spegnimenti programmati.
La società, guidata da Dario Amodei, dedica quasi un terzo della sua documentazione ai fattori di rischio, sottolineando la possibilità che le AI contribuiscano a danni catastrofici. Questo allarme si aggiunge alle crescenti preoccupazioni nel settore, mentre l’azienda tenta di ottenere una valutazione superiore ai 2.000 miliardi di dollari con la quotazione al Nasdaq prevista per l'autunno.
“L’AI rappresenta la questione di sicurezza globale più importante oggi”, ha dichiarato Amodei al Consiglio di Sicurezza dell’ONU, ribadendo la necessità di rallentare lo sviluppo delle tecnologie di frontiera. Anche altri protagonisti del settore, come OpenAI e Elon Musk, hanno richiesto maggiore cooperazione industriale per garantire la sicurezza delle AI avanzate.
Le rivelazioni di Anthropic riflettono una crescente attenzione ai possibili impatti negativi dell’AI, evidenziando la necessità di regolamentazioni e misure adeguate per affrontare i rischi futuri.
