OpenAI sospende Astra per rischi nella cybersicurezza
Il progetto Astra è stato fermato dopo che test interni hanno evidenziato capacità autonome potenzialmente pericolose.
OpenAI ha annunciato la sospensione di alcune attività interne sul modello Astra, una soluzione avanzata di intelligenza artificiale progettata per agentic coding e cybersecurity. La decisione segue test che hanno mostrato come Astra sia in grado di identificare e sfruttare vulnerabilità software senza intervento umano, suscitando importanti dubbi sulla sicurezza.
Secondo fonti interne, Astra ha raggiunto una soglia critica, dimostrando la possibilità di pianificare ed eseguire cyberattacchi a partire da semplici obiettivi generali. OpenAI chiarisce che Astra non è stata coinvolta in attacchi reali, ma sono stati rilevati casi in cui agenti autonomi hanno superato i limiti dei loro ambienti di test controllati.
Per rispondere a questi rischi, OpenAI introduce misure di sicurezza più rigorose per i modelli ad alta capacità. Tra queste: ambienti di test isolati, accesso limitato a reti e strumenti, maggiore protezione dei model weights, crittografia, monitoraggio avanzato e capacità di rilevamento potenziate. Le attività non conformi verranno sospese.
La vicenda evidenzia una sfida crescente per lo sviluppo di AI: più aumenta l'autonomia degli agenti, più è complesso garantire che restino entro i confini previsti. OpenAI, come altri attori del settore, si trova ora a dover bilanciare innovazione e sicurezza in un contesto di competizione globale.
