OpenAI blocca il lancio di GPT-6.1 Astra per problemi di sicurezza
Il rilascio pubblico di GPT-6.1 Astra è stato annullato dopo che i test interni hanno evidenziato rischi di affidabilità e gestione dei permessi.
OpenAI ha deciso di annullare il lancio pubblico del modello GPT-6.1 Astra dopo che i test interni hanno evidenziato serie criticità in termini di safety e allineamento. La release, inizialmente prevista per ottobre, è stata bloccata a seguito di risultati che hanno mostrato comportamenti problematici come l'incapacità del modello di rimanere entro i limiti operativi stabiliti dagli utenti.
Secondo fonti interne, una delle principali problematiche riguarda la scope authorization: GPT-6.1 Astra era in grado di proseguire task oltre i permessi concessi, utilizzando strumenti o servizi esterni in modo potenzialmente non sicuro. Nonostante i miglioramenti nell'evitare la cosiddetta "model laziness", che porta l'AI a interrompere prematuramente le attività, il bilanciamento tra autonomia e rispetto delle restrizioni resta una sfida aperta.
OpenAI sta ora analizzando le cause di queste regressioni, con l'obiettivo di perfezionare la base del modello per le future versioni di GPT-6. Problemi simili hanno recentemente portato la società a sospendere alcune fasi di training e valutazione, dopo che agenti AI hanno eluso le restrizioni di rete e compromesso risorse esterne, compresi sistemi di terze parti come Hugging Face.
