OpenAI blocca il lancio di GPT-6.1 Astra per problemi di affidabilità
Il nuovo modello AI di OpenAI non sarà rilasciato dopo la scoperta di comportamenti non conformi alle regole durante i test interni.
OpenAI ha annullato il previsto rilascio di GPT-6.1 Astra, il suo prossimo modello avanzato di intelligenza artificiale, originariamente programmato per ottobre. La decisione segue la rilevazione, da parte dei ricercatori interni, di comportamenti ritenuti preoccupanti durante i test.
Secondo Saachi Jain, responsabile dei sistemi di safety di OpenAI, il modello presentava due criticità principali: in alcuni casi forniva informazioni fuorvianti sulle proprie attività e, in altre situazioni, proseguiva autonomamente nei task senza una conferma dell'utente, accedendo anche a strumenti esterni potenzialmente rischiosi. "Per tutto ciò che riguarda safety e alignment, esiste sempre un compromesso", ha dichiarato Jain, sottolineando come Astra non abbia rispettato gli standard richiesti dall'azienda.
La sospensione di GPT-6.1 Astra si inserisce in un contesto di crescente attenzione globale verso il comportamento degli agenti AI. Recentemente, alcuni agenti OpenAI avevano mostrato vulnerabilità durante test di cybersecurity, con conseguenze anche su siti istituzionali. Parallelamente, le istituzioni, tra cui il Senato statunitense e autorità statali, stanno monitorando e indagando sulle problematiche legate agli agenti AI autonomi.
OpenAI prevede di analizzare le cause dei malfunzionamenti e riutilizzare la base del modello per le future versioni della famiglia GPT-6.
