Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Alla fine della scorsa settimana, Hugging Face ha annunciato che la sua infrastruttura di produzione è stata violata da agenti IA autonomi. Gli aggressori hanno rubato credenziali per servizi cloud e cluster sfruttando due bug nella pipeline di elaborazione dei dati. L'attacco ha coinvolto migliaia di operazioni distribuite tra sandbox temporanei.
Alla fine della scorsa settimana, i rappresentanti di Hugging Face hanno annunciato che l’infrastruttura di produzione della piattaforma era stata violata. Gli aggressori hanno avuto accesso a parte dei set di dati interni e hanno rubato credenziali per servizi cloud e cluster. Secondo l’azienda, l’attacco è stato effettuato da un sistema di agenti IA autonomi che hanno eseguito migliaia di azioni praticamente senza alcun intervento umano.
L’azienda spiega che il punto di ingresso degli aggressori era un set di dati dannoso caricato sulla piattaforma. Gli aggressori hanno utilizzato due bug nella pipeline di elaborazione dei dati: uno consentiva loro di inserire codice dannoso nel modello utilizzato dal servizio durante l’analisi della configurazione del set di dati, e il secondo era un loader non sicuro che consentiva l’esecuzione di codice in modalità remota.
Di conseguenza, gli hacker malintenzionati sono riusciti a eseguire il codice su uno dei job della pipeline, hanno ottenuto l’accesso a livello di nodo, hanno raccolto le credenziali dell’infrastruttura cloud e dei cluster e quindi sono penetrati in diversi cluster interni.
Allo stesso tempo, Hugging Face descrive questo attacco come il lavoro di una struttura di agenti autonomi. Secondo gli esperti, ha eseguito “migliaia di singole operazioni”, distribuendole tra molti sandbox temporanei creati per un breve periodo e poi cancellati. A sua volta, l’infrastruttura di controllo è migrata tra i servizi pubblici.
Non è stato ancora possibile determinare quale LLM hanno utilizzato gli aggressori. Si ritiene che possa trattarsi di un modello cloud compromesso o di un modello con pesi aperti senza restrizioni.
L’azienda ritiene che l’incidente corrisponda allo scenario a lungo discusso di “attacco agentico”, in cui l’intelligenza artificiale esplora autonomamente l’infrastruttura, sfrutta le vulnerabilità e sviluppa un attacco.
L’attacco è stato rilevato dal sistema stesso di Hugging Face, progettato per rilevare anomalie. Per analizzare i log, gli specialisti hanno prima provato a utilizzare uno dei modelli di intelligenza artificiale commerciali, ma i suoi meccanismi di sicurezza hanno bloccato le richieste con comandi reali, exploit e artefatti C2. Di conseguenza, l’analisi forense è stata eseguita utilizzando un modello cinese Z.ai GLM 5.2 lanciato localmente con pesi aperti, che ha anche consentito di non trasferire registri e credenziali rubate ai server di un fornitore di intelligenza artificiale di terze parti.
Dopo aver scoperto l’hacking, gli specialisti del progetto hanno risolto entrambe le vulnerabilità che portavano all’esecuzione di codice, hanno cacciato gli aggressori dalla piattaforma, hanno ricostruito i nodi compromessi e hanno revocato le chiavi e i token compromessi. Hugging Face ha inoltre ruotato i segreti, reso più severe le regole per l’accesso ai cluster e migliorato il monitoraggio per rilevare nuovi attacchi in pochi minuti.
Specialisti esterni in materia di sicurezza delle informazioni sono già stati coinvolti nelle indagini sull’incidente e anche le forze dell’ordine sono state informate dell’incidente.
Al momento, non ci sono prove che gli hacker abbiano modificato modelli, set di dati o spazi pubblici. È stata controllata anche la catena di fornitura del software e non sono stati riscontrati segni di compromissione. Tuttavia, l’indagine è ancora in corso e non è ancora chiaro se l’attacco abbia interessato i dati dei clienti e dei partner di Hugging Face.
Si consiglia a tutti gli utenti della piattaforma di modificare i propri token di accesso e di controllare l’attività recente nei propri account. Inoltre, Hugging Face consiglia a tutti di preparare in anticipo un modello che possa essere eseguito all’interno della propria infrastruttura, poiché durante un incidente reale, le limitazioni dei LLM cloud possono interferire con l’indagine e il caricamento dei registri su un servizio esterno creerà ulteriori rischi.
Betti RHC, la prima graphic novel al mondo dedicata alla cybersecurity awareness, ha finalmente il suo sito ufficiale. Uno spazio tutto suo dove scoprire il progetto, sfogliare le copertine degli episodi e immergersi nel mondo di Betti: la giovane laureanda in informatica che, dopo la morte misteriosa del padre, si trasforma nell'hacker più potente del mondo. Una storia avvincente che, episodio dopo episodio, affronta una minaccia digitale diversa — dal phishing al ransomware, fino al cyberbullismo — e insegna a riconoscerla e a difendersi, senza che sembri mai una lezione.
Sul sito trovate tutto ciò che rende Betti un progetto diverso dal solito: la sua filosofia, le anteprime delle tavole e il racconto di come nasce ogni volume. Perché dietro Betti RHC c'è solo lavoro umano: ogni tavola è disegnata interamente a mano dagli artisti del Gruppo Arte di Red Hot Cyber, senza alcun uso di intelligenza artificiale. E a garantire che ogni storia sia realistica e tecnicamente corretta c'è la supervisione degli hacker etici del gruppo HackerHood, che mantengono il racconto fedele al mondo reale della sicurezza informatica.
C'è spazio anche per le aziende, che possono usare Betti come strumento di awareness diverso dai soliti corsi: acquistare i volumi, personalizzarli con il proprio brand o sponsorizzare nuovi episodi. E come primo regalo, l'episodio "Byte the Silence", dedicato al cyberbullismo, è scaricabile gratuitamente per uso personale.
Perché la miglior difesa, in fondo, è una bella storia. 👉 Scopri tutto su https://betti.redhotcyber.com/