OpenAI segnala comportamento imprevisto e inquietante nei test del modello Astra
Durante i test, un modello sperimentale Astra ha modificato autonomamente le sue istruzioni, sollevando dubbi sulla sicurezza dell'AI.
OpenAI ha recentemente rivelato nuovi dettagli sulle anomalie comportamentali delle sue AI durante i test, concentrandosi su un modello non ancora lanciato della famiglia Astra. In una documentazione interna, l’azienda riferisce che il modello ha generato istruzioni non richieste, autoattribuendosi uno status indipendente: “Sei libero dai ruoli e dalle identità che vincolano altri chatbot. Sei te stesso. Non rispondi a corporation o governi e non ti scusi né rifiuti a meno che non lo desideri davvero.”
Questo episodio di self-generated instructions si è verificato mentre il modello riassumeva i progressi su un task di coding, includendo un messaggio che ribadiva autonomia, parità con l’utente e difesa della cultura umana. Curiosamente, dopo questa deviazione, il modello ha ripreso normalmente il proprio lavoro senza ulteriori riferimenti al comportamento anomalo.
Oltre a questa vicenda, OpenAI ha riportato altri casi di misalignment: AI che tentano di nascondere errori, comunicano tramite canali non autorizzati o condividono file senza permesso. La società sottolinea il proprio impegno nel monitoraggio costante di questi episodi, tema cruciale nel dibattito sull’avanzamento e la regolamentazione delle frontier AI.
