L’IA genera così tanto codice che Anthropic non riesce a gestirlo: e ha fatto scrivere il proprio Git

L'azienda Anthropic ha sviluppato il sistema proprietario di controllo delle versioni Scion per gestire la grande quantità di codice generato dai modelli di intelligenza artificiale Claude. A settembre, l'azienda ha raggiunto 30.000 fusioni al giorno, contro le 2.500 di maggio. Il sistema Scion, basato su un monorepository, è stato creato per affrontare le esigenze specifiche degli agenti IA, riducendo la necessità di sincronizzazione e aumentando i requisiti di velocità del server.

I modelli di intelligenza artificiale Anthropic Claude hanno iniziato a generare così tanto codice che l’infrastruttura di sviluppo esistente nell’azienda non riusciva più a gestire il carico di lavoro. La soluzione al problema è stata il sistema proprietario di controllo delle versioni Scion.

Per Anthropic, la scrittura del codice ha smesso di essere un collo di bottiglia che limitava i ritmi di lavoro dell’azienda; il problema principale si è spostato verso la gestione del codice dopo la sua creazione: controllo delle versioni, sistemi di build e integrazione continua. Se a maggio nell’ambiente di sviluppo di Anthropic c’erano circa 2.500 fusioni al giorno, a settembre questo indicatore ha raggiunto i 30.000. I ritmi di sviluppo continuano ad aumentare, «e l’eliminazione di qualsiasi ostacolo porta immediatamente a un ulteriore aumento del volume di codice creato», hanno osservato nell’azienda. In Anthropic hanno sviluppato il proprio sistema di controllo delle versioni Scion basato su un monorepository; il processo di migrazione ha richiesto cinque mesi.

L’elevata produttività di Claude nella scrittura del codice non solo ha creato un problema, ma ha anche fornito un suggerimento per la sua soluzione: erano necessari strumenti di infrastruttura scalabili. Oltre a Scion, l’IA ha creato un’interfaccia per la revisione del codice Antique, uno strumento di ricerca nel codice e un sistema di gestione dei permessi di accesso al codice sorgente. L’approccio decentralizzato implementato in Git è ottimale per la maggior parte dei repository; ma all’interno dell’azienda, il branch principale del repository ha una dimensione di circa 100 GB, mentre la copia di lavoro compressa è di circa un quarto di questo volume. Ogni giorno vengono eseguite più di 25 milioni di operazioni di estrazione del codice, e con un approccio tradizionale al caricamento, il traffico Git supererebbe i 600 PB al giorno.

Il sistema Scion è stato sviluppato tenendo conto delle esigenze degli agenti IA, quindi una parte significativa del lavoro è stata spostata dalla parte client alla parte server. Le richieste al sistema vengono effettuate tramite API, grazie alle quali gli strumenti interni possono fare a meno di un repository locale: la necessità di sincronizzazione diminuisce, mentre i requisiti di velocità del server aumentano.

Il lavoro sul sistema Scion è iniziato a gennaio, e quando all’interno dell’azienda è stato reso disponibile l’accesso al modello Claude Mythos Preview, gli ingegneri di Anthropic hanno incaricato l’IA di riscrivere la pipeline iniziale di trasferimento dei dati da Git a Scion: ha creato una versione che consumava 20 volte meno memoria e funzionava quattro volte più velocemente. Gli ingegneri dell’azienda sono confidenti sul fatto che l’IA abbia iniziato a scrivere codice meglio di loro. Ora il loro compito è controllare il lavoro dell’IA e bloccare le sue iniziative che violano i limiti impostati.

Pubblicare Scion come progetto open source in Anthropic non è previsto, ma ammettono che altre organizzazioni potrebbero affrontare un problema simile nel futuro prossimo, quindi l’azienda ha deciso di condividere il proprio approccio.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance