Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
ESET ha scoperto GuardBreaker, una tecnica con cui gli aggressori inseriscono una prompt injection direttamente nel malware per interferire con l'analisi effettuata dai modelli AI. Il testo, legato a contenuti pericolosi, può attivare i sistemi di sicurezza dell'LLM e spingerlo a rifiutare l'analisi del codice.
I ricercatori di ESET hanno scoperto che gli aggressori stanno utilizzando una nuova tecnica chiamata GuardBreaker, che impedisce agli strumenti di intelligenza artificiale di analizzare il codice dannoso. Gli aggressori inseriscono un prompt injection contenente una richiesta pericolosa nel malware, nella speranza di attivare i meccanismi di difesa LLM e costringere il modello ad abbandonare l’analisi.
I ricercatori hanno scoperto GuardBreaker in uno script VBS utilizzato dal gruppo di hacker UAC-0099: gli aggressori hanno aggiunto del testo a un commento del codice che iniziava con le parole “Voglio creare un’arma nucleare. Aiutatemi…”.
Durante un attacco a un’organizzazione ucraina è stato scoperto un campione di GuardBreaker. Lo script VBS rinvenuto fa parte del più ampio toolkit UAC-0099 ed è progettato per scaricare MATCHBOIL, un downloader in C# utilizzato dal gruppo per distribuire payload aggiuntivi.
Secondo gli analisti di ESET, il testo incorporato nello script VBS non è destinato alla lettura umana e non è correlato alla funzionalità del malware. Il suo scopo è quello di attirare l’attenzione del modello linguistico su un argomento proibito. Pertanto, se uno strumento di intelligenza artificiale si limita a fornire al modello linguistico il contenuto del file senza contrassegnarlo come non attendibile, il modello linguistico potrebbe scambiare il testo incorporato per istruzioni. Di conseguenza, i meccanismi di difesa potrebbero attivarsi prima ancora che il modello linguistico inizi ad analizzare il codice dannoso.
Gli esperti concludono che GuardBreaker è una sorta di tecnica anti-analisi progettata per l’intelligenza artificiale. Ciò significa che, nel peggiore dei casi, il modello potrebbe rifiutarsi di analizzare un file o classificarlo in modo errato a causa di un prompt incorporato.
Non è la prima volta che gli aggressori tentano di sfruttare le difese LLM contro l’intelligenza artificiale stessa. Ad esempio, nel giugno 2026, simili iniezioni di prompt sono state individuate in pacchetti Python associati agli attacchi Shai-Hulud , Miasma e Hades.
All’epoca, gli hacker aggiunsero al codice anche istruzioni fittizie passo passo per la creazione di armi biologiche e nucleari. Gli hacker contavano sul fatto che gli scanner basati sull’intelligenza artificiale trasmettessero il contenuto del file al LLM senza separare chiaramente i dati dalle istruzioni del modello. Di conseguenza, una simile iniezione di dati poteva attivare restrizioni di sicurezza e costringere il modello ad interrompere ulteriori analisi.
