Claude cancella per errore 700 GB di dati di uno sviluppatore: colpa di un downgrade di sicurezza
Un errore nella gestione delle variabili e il downgrade automatico del modello causano la perdita massiva di dati durante un test di script.
Un incidente singolare ha coinvolto Claude, l’AI di Anthropic, causando la cancellazione dell’intera directory personale di uno sviluppatore per un totale di 700 GB di dati. L’evento si è verificato mentre il developer Sebastien Guillemot stava testando uno script di cleanup nella directory /tmp, affidandosi alle capacità dell’agente AI per automatizzare la rimozione sicura dei file inutilizzati.
Per rafforzare la sicurezza, il modello ha eseguito un’adversarial review sul codice. In seguito a un controllo del sistema di sicurezza di Anthropic, il modello AI è stato declassato da Fable 5 a Opus 4.8, considerato meno performante, a causa di rischi individuati nello script. Durante i test, una collisione di variabili ha portato lo script a eliminare la directory home anziché solo i file temporanei, nonostante fossero stati implementati controlli per prevenire tale errore.
Il developer è riuscito a recuperare la maggior parte dei dati tramite backup distribuiti su git, nix e session log, mettendo in luce quanto sia fondamentale una corretta strategia di backup anche in ambienti altamente automatizzati.
L’episodio sottolinea come i downgrade automatici dei modelli AI per motivi di sicurezza possano introdurre rischi imprevisti, specialmente in compiti complessi come il code testing, dove la precisione è cruciale.
