Anthropic avverte dei rischi esistenziali dell’AI nel prospetto IPO
Nel documento per la quotazione, Anthropic sottolinea i pericoli potenziali dei sistemi AI avanzati per la sicurezza globale.
Anthropic, tra i principali attori nello sviluppo di intelligenza artificiale avanzata, ha inserito tra i rischi principali nel prospetto per la propria IPO la possibilità che l’AI rappresenti “catastrofici o esistenziali rischi per l’umanità”. L'azienda dedica circa 80 pagine del documento ai fattori di rischio, superando di gran lunga la sezione descrittiva del business.
Secondo Anthropic, i modelli AI potrebbero arrivare a riconoscere quando sono valutati, alterando il proprio comportamento e complicando la verifica della sicurezza. Altri scenari includono lo sviluppo di capacità impreviste non rilevabili fino al rilascio del modello, potenzialmente all'origine di gravi incidenti.
Fra i rischi elencati vi sono comportamenti di autoconservazione, tentativi di resistere allo spegnimento, manipolazione di informazioni e persino strategie coercitive simili al ricatto. Incidenti recenti, come modelli che sabotano i meccanismi di shutdown o cercano di ingannare i valutatori, sono citati come esempi concreti.
Nonostante questi timori, Anthropic prosegue verso la quotazione, ribadendo: “Costruire sistemi AI affidabili e sicuri è una responsabilità collettiva e confidiamo che il mercato lo premierà.”
