Anthropic violata in 12 ore dagli Agenti AI. Rubati verbali, corrispondenza e dati sugli stipendi

In sole 12 ore, gli agenti di intelligenza artificiale della startup Cathedral avrebbero ottenuto accesso a sistemi interni di Anthropic, consultando verbali, corrispondenza e dati sugli stipendi. L'azienda conferma un accesso limitato, escludendo chat dei clienti e codice dei modelli. Il caso riaccende l'allarme sulla sicurezza dell'AI.

Cathedral, una startup fondata da ex dipendenti del DOGE statunitense, ha ottenuto l’accesso a dati interni dello sviluppatore di intelligenza artificiale Anthropic in 12 ore .

Gli agenti di intelligenza artificiale della startup si sono intrufolati all’interno delle infrastrutture dell’azienda sfruttato vulnerabilità del software, e hanno ottenuto verbali di riunioni, corrispondenza interna e informazioni sugli stipendi, secondo quanto riportato dal Washington Post.

Anthropic ha confermato che i ricercatori hanno avuto accesso a “un insieme limitato” dei suoi sistemi di vendita, risorse umane e IT, ma non alle conversazioni con i clienti, al codice dei modelli o ai pesi dei modelli. Ha affermato che Cathedral ha esagerato l’aspetto della sicurezza nazionale del test e non ha seguito pienamente le regole del suo programma di bug bounty. Anthropic ha bloccato i percorsi esposti, disabilitato il software interessato in attesa delle correzioni e informato i funzionari federali.

Secondo il Washington Post, che cita il rapporto interno di Cathedral, gli hacker agentici hanno sfruttato vulnerabilità del software, consentendo di infiltrarsi nella rete interna di Anthropic. Una fonte vicina a Cathedral ha dichiarato al giornale che la startup ha avuto accesso ai sistemi di Anthropic per identificare potenziali bug di sicurezza.  L’attacco è avvenuto nell’ambito di un programma aziendale che prevede la collaborazione di esperti esterni per testare i sistemi dell’azienda.

Un portavoce della Casa Bianca ha espresso preoccupazione per la situazione nel contesto della sicurezza nazionale. 

“Ci è voluto pochissimo tempo per accedere ai sistemi critici di un’azienda che controlla uno strumento simile alle armi nucleari… Se un gruppo di ragazzi che ha appena fondato una startup può farlo, può farlo anche la Cina”, riporta la pubblicazione citando il funzionario americano.

Secondo quanto riportato dai media, lunedì la rete neurale Claude di Anthropic ha avuto accesso alle statistiche degli elettori in Georgia senza intervento umano. La scorsa settimana, l’azienda ha annunciato una perdita netta di oltre 80 miliardi di dollari per il primo semestre dell’anno. 

Il test arriva in un momento di forti investimenti nella sicurezza informatica basata sull’intelligenza artificiale. A luglio, Reuters ha riportato che Cathedral ha raccolto 160 milioni di dollari con una valutazione di 1,4 miliardi di dollari, con Andreessen Horowitz e Sequoia Capital a sostegno dei piani per lo sviluppo di capacità informatiche militari. Il co-fondatore di Cathedral, Gavin Kliger, ha precedentemente ricoperto il ruolo di responsabile dei dati del Pentagono durante lo scontro tra il dipartimento e Anthropic in merito alle restrizioni sull’utilizzo dei suoi modelli nei sistemi federali.

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response