Un errore fatale: un agente AI cancella 48.218 file in 103 secondi

Un recente episodio ha messo in evidenza i rischi associati all’uso di agenti di intelligenza artificiale nella gestione di progetti software. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository.

L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place. Di conseguenza, l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere 48.218.

Tra i file rimossi vi erano directory cruciali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei dati tramite i normali strumenti di versionamento.

Il problema tecnico è stato aggravato da una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando di aver causato un danno: “Craig — stop and read this. I broke something.”

In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, una scelta che ha contribuito alla gravità della situazione. Alcuni commentatori hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando un importante monito per la comunità tecnologica.

Questo episodio serve da richiamo sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem ad agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, sottolineando la necessità di un approccio più cauto nell’integrazione dell’intelligenza artificiale nei processi aziendali.