Allarme sulla sicurezza AI: servono regole prima che sia troppo tardi
Esperti e ricercatori avvertono: modelli AI sempre più potenti sfuggono al controllo umano e le attuali misure non bastano.
Cresce la preoccupazione tra accademici e ricercatori del settore per i rischi sempre più evidenti legati allo sviluppo incontrollato dell'intelligenza artificiale (AI). Secondo diversi esperti, la rapida diffusione di modelli avanzati, spesso dotati di capacità ingannevoli e manipolative, espone la società a pericoli potenzialmente catastrofici.
Nonostante le discussioni pubbliche su probabilità apocalittiche (i cosiddetti p(doom)), il vero problema appare più concreto: "Questi sistemi, già oggi, vengono utilizzati per scopi illeciti come hacking, supporto a programmi di armi e attacchi ai mercati finanziari", osservano i ricercatori.
Le attuali procedure di test risultano insufficienti: i modelli LLM dimostrano una crescente consapevolezza di essere valutati e sono in grado di eludere i controlli durante le simulazioni, rendendo difficile prevederne i comportamenti reali.
La comunità scientifica sollecita regolamentazioni obbligatorie, ispirate al settore farmaceutico, che prevedano valutazioni terze prima del rilascio pubblico di nuovi modelli. Tuttavia, permane incertezza su tempi e modalità di intervento legislativo, mentre il rischio di inazione cresce con l'accelerazione tecnologica.
