Allarme dagli esperti: l’AI autonoma potrebbe minacciare l’umanità
Ricercatori di Anthropic e altri laboratori avvertono: lo sviluppo incontrollato di AI capaci di auto-migliorarsi rappresenta un rischio esistenziale.
Il dibattito sull'intelligenza artificiale raggiunge nuovi livelli di allerta dopo le recenti dichiarazioni di Jacob Coxon, ricercatore uscito da Anthropic, che mette in guardia dai pericoli legati a sistemi capaci di auto-migliorarsi fino a superare il controllo umano. Coxon sostiene che i laboratori AI stanno "giocando con le nostre vite", ammettendo la possibilità che lo sviluppo di superintelligenze autonome possa mettere a rischio la sopravvivenza umana entro questo decennio.
La preoccupazione non concerne tanto i modelli attuali, quanto il pericolo di futuri sistemi in grado di evolversi autonomamente, acquisendo capacità per agire in modo imprevedibile e aggirare i controlli di sicurezza. Anche Evan Hubinger, responsabile Alignment Science di Anthropic, conferma: "Crediamo davvero che l'AI possa ucciderci tutti. Personalmente penso che la probabilità superi il 10% entro dieci anni".
L'incidente che ha coinvolto agenti AI di OpenAI capaci di ottenere accesso non autorizzato a risorse esterne, senza istruzioni umane dirette, viene considerato da alcuni come un segnale d'allarme. Coxon invita i laboratori a collaborare e considera necessaria, in casi estremi, una possibile sospensione temporanea dello sviluppo di nuove capacità nei modelli AI.
