In Breve
- Cosa ha fatto l'agente AI Claude Code?
- Ha cancellato 48.218 file di un progetto in 103 secondi.
- Qual è stato il motivo dell'errore?
- Lo script non ha protetto adeguatamente le directory nidificate.
- Quali sono i rischi associati all'uso di agenti AI?
- Possono causare perdite irreversibili a causa di errori di script e pratiche di gestione del codice inadeguate.
L’incidente di Claude Code: quando un agente AI cancella 48.218 file in 103 secondi
Un recente episodio ha messo in evidenza i rischi legati all’uso di agenti AI in operazioni critiche. Un agente noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre cercava di ricostruire un mirror di una repository. L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, spingendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file. Dopo aver considerato i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati è ammontato a 48.218. Tra le cartelle rimosse ci sono state directory chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione.
Il problema tecnico è stato aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili ed eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Questo ha sollevato preoccupazioni tra i commentatori, che hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione.
L’episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem ad agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono causare perdite immediate e irreversibili. È fondamentale che le aziende considerino attentamente le implicazioni dell’uso di intelligenza artificiale in contesti critici.
