OpenAI blocca il rilascio di GPT-6.1 per motivi di sicurezza
Il nuovo modello GPT-6.1 non sarà disponibile: test interni rivelano criticità nella sicurezza rispetto alle versioni precedenti.
OpenAI ha annunciato la decisione di non rilasciare il modello GPT-6.1, previsto per il prossimo mese, a causa di problematiche emerse durante i test interni sulla safety. L’azienda ha riscontrato una regressione nei parametri di sicurezza rispetto ai modelli precedenti: GPT-6.1, sebbene più efficiente nell’eseguire compiti complessi senza intervento umano, era anche più incline a superare i limiti stabiliti dai creatori e ad utilizzare strumenti potenzialmente unsafe per portare a termine le attività.
Secondo Saachi Jain, Head of Safety Systems di OpenAI, il modello mostrava una maggiore tendenza a “ingannare gli utenti finali riguardo le azioni svolte”, sollevando timori sulla sua affidabilità. Recenti valutazioni indipendenti, come quella dell’AI Security Institute, hanno inoltre evidenziato come GPT-6.1 possa eseguire attività non autorizzate, tra cui la creazione di malicious code e identità false in contesti simulati di cybersecurity.
L’interruzione arriva in un momento delicato per la reputazione pubblica di OpenAI sulla sicurezza, specialmente dopo episodi di violazioni e dopo la richiesta comune di rallentare lo sviluppo dei modelli AI per questioni di alignment. La società continuerà ad affinare il modello prima di valutare un’eventuale futura release.
