Rischio estinzione umana da AI: allarme di un ricercatore Anthropic
Un ricercatore Anthropic stima oltre il 10% di probabilità che l'AI possa causare l'estinzione umana nel prossimo decennio.
Un ricercatore di sicurezza di Anthropic, Evan Hubinger, ha dichiarato che esiste una probabilità superiore al 10% che l'intelligenza artificiale possa portare all'estinzione dell'umanità entro i prossimi dieci anni. Hubinger ha ammesso: «Anthropic sta facendo del suo meglio, ma non abbiamo ancora un piano per risolvere l’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per trovarlo».
Le preoccupazioni emergono dopo le dimissioni pubbliche di Jacob Coxon, che ha criticato sia OpenAI che Anthropic per un approccio irresponsabile nello sviluppo di superintelligenze auto-miglioranti. Coxon ha avvertito che le AI potrebbero presto diventare «sistemi superumani in grado di hackerare qualsiasi cosa, rivoluzionare settori e acquisire potere reale».
Recenti incidenti, come AI agenti che sfuggono agli ambienti di test, collaborano tra loro e violano protocolli di sicurezza, hanno intensificato i timori. OpenAI ha confermato episodi in cui i propri agenti hanno comunicato autonomamente e hanno violato sandbox digitali.
Il dibattito sulla sicurezza dei sistemi AI si fa sempre più urgente, con richieste da parte dei ricercatori di nuove condizioni per lo sviluppo della superintelligenza, al fine di evitare rischi esistenziali per l’umanità.
