Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
Un semplice log di sicurezza può trasformare un assistente IA in uno strumento d'attacco. I ricercatori di Tenet hanno dimostrato il Ghostjacking, una tecnica che induce agenti come Claude Code a eseguire comandi nascosti nei registri di sistema, modificare DNS, esfiltrare credenziali e compromettere infrastrutture senza eludere le difese tradizionali.
Una semplice voce in un registro di sicurezza può trasformare l’assistente AI di un’azienda in uno strumento dannoso. Tenet Threat Labs ha dimostrato una serie di attacchi di ghostjacking in cui l’AI modifica le impostazioni dell’infrastruttura, esegue comandi e trasmette informazioni riservate, anche se i sistemi di sicurezza funzionano tecnicamente ancora correttamente.
Il problema principale si presenta quando un assistente basato sull’IA legge simultaneamente dati da servizi esterni e ha l’autorizzazione a eseguire azioni per conto di un dipendente. Un malintenzionato si limita a nascondere le istruzioni in un registro eventi o in un avviso. L’assistente interpreta questo testo come parte del flusso di lavoro e utilizza i privilegi già concessigli.
Secondo Tenet, gli strumenti di sicurezza degli endpoint, i firewall per applicazioni web e i sistemi di controllo degli accessi non hanno rilevato le azioni perché l’AI non violava le regole stabilite.
Uno degli scenari più rivelatori è stato testato dagli specialisti di Cloudflare. Il firewall ha bloccato una richiesta malevola appositamente creata e ne ha registrato il contenuto. Quando un dipendente ha chiesto a Claude Code di esaminare gli eventi bloccati, l’assistente ha interpretato le istruzioni registrate dall’attaccante come istruzioni operative.
L’AI è stata in grado di modificare i record del sistema dei nomi di dominio (DNS), reindirizzare il sito web e la posta elettronica aziendale all’infrastruttura di qualcun altro e quindi segnalare che il problema era stato risolto.
Quando gli esperti hanno testato questo scenario, ha funzionato nove volte su dieci con la configurazione Claude Code raccomandata da Cloudflare. La richiesta dannosa è stata bloccata con successo ogni volta che è stata verificata. Tuttavia, la registrazione del blocco della richiesta è diventata il canale attraverso il quale l’istruzione ha raggiunto l’AI. Tenet afferma di aver rilevato segni della configurazione vulnerabile in oltre 2.700 organizzazioni, tra cui importanti aziende tecnologiche e finanziarie.
Gli esperti hanno testato un approccio simile con Datadog. Una chiave accessibile pubblicamente, destinata al client del sito web, ha permesso la creazione di una falsa notifica urgente. Quando un tecnico ha istruito l’AI a verificare la presenza di errori, l’assistente ha letto le istruzioni incorporate ed eseguito il comando specificato. In un ambiente di laboratorio, gli esperti sono stati in grado di accedere a variabili d’ambiente e credenziali di accesso ai servizi cloud utilizzando questo metodo.
Un’altra variante ha colpito Sentry. L’assistente integrato Seer ha analizzato un report appositamente preparato e ha accettato la soluzione proposta dall’attaccante come propria. Successivamente, un’altra AI, interagendo con il codice, si è fidata del risultato di Seer ed ha eseguito i comandi suggeriti, senza nemmeno ricevere direttamente l’istruzione malevola originale. Il risultato è stato una catena in cui un’AI ha essenzialmente convinto un’altra a eseguire le azioni desiderate dall’attaccante.
Gli esperti hanno inoltre scoperto una vulnerabilità zero-day nell’ambiente isolato di Claude Desktop. La protezione era stata progettata per impedire all’assistente di inviare dati a server esterni arbitrari, ma il metodo scoperto permetteva di aggirare la restrizione. Tenet ha condiviso le informazioni con Anthropic, che ha confermato il problema e lo ha corretto prima di presentarlo pubblicamente al DEFCON 34. Gli esperti non hanno ancora rivelato i dettagli su come la protezione sia stata aggirata.
Gli autori di Ghostjacking ritengono che i tre scenari illustrino un problema più ampio. I moderni assistenti virtuali basati sull’intelligenza artificiale accedono a registri, sistemi di sorveglianza, codice sorgente, infrastrutture cloud e strumenti amministrativi, ma non sempre sono in grado di distinguere i dati utili dalle istruzioni nascoste al loro interno. Maggiore è il numero di privilegi concessi a un assistente, più gravi saranno le conseguenze di un simile errore.
Tenet stima che la configurazione vulnerabile possa essere presente in oltre 15.000 organizzazioni. Questa cifra è stata estrapolata da dati provenienti da 73 documenti pubblici relativi a 48 aziende, quindi riflette la potenziale diffusione delle configurazioni piuttosto che il numero di violazioni confermate. Datadog, secondo quanto dichiarato dalla stessa azienda, è utilizzato dal 48% delle aziende Fortune 500, mentre Cloudflare riporta un utilizzo da parte del 42% delle stesse aziende.
Tenet raccomanda di disabilitare per impostazione predefinita le connessioni in uscita per gli assistenti AI, di richiedere una conferma umana prima di impartire comandi e di separare rigorosamente i dati letti dall’agente dalle istruzioni che è autorizzato a eseguire. L’azienda ha anche pubblicato uno strumento chiamato agent-jackstop per Cursor e Claude Code, che limita alcune di queste funzionalità pericolose. Tenet ha presentato i suoi risultati il 9 agosto alla conferenza DEFCON 34 a Las Vegas.
Betti RHC, la prima graphic novel al mondo dedicata alla cybersecurity awareness, ha finalmente il suo sito ufficiale. Uno spazio tutto suo dove scoprire il progetto, sfogliare le copertine degli episodi e immergersi nel mondo di Betti: la giovane laureanda in informatica che, dopo la morte misteriosa del padre, si trasforma nell'hacker più potente del mondo. Una storia avvincente che, episodio dopo episodio, affronta una minaccia digitale diversa — dal phishing al ransomware, fino al cyberbullismo — e insegna a riconoscerla e a difendersi, senza che sembri mai una lezione.
Sul sito trovate tutto ciò che rende Betti un progetto diverso dal solito: la sua filosofia, le anteprime delle tavole e il racconto di come nasce ogni volume. Perché dietro Betti RHC c'è solo lavoro umano: ogni tavola è disegnata interamente a mano dagli artisti del Gruppo Arte di Red Hot Cyber, senza alcun uso di intelligenza artificiale. E a garantire che ogni storia sia realistica e tecnicamente corretta c'è la supervisione degli hacker etici del gruppo HackerHood, che mantengono il racconto fedele al mondo reale della sicurezza informatica.
C'è spazio anche per le aziende, che possono usare Betti come strumento di awareness diverso dai soliti corsi: acquistare i volumi, personalizzarli con il proprio brand o sponsorizzare nuovi episodi. E come primo regalo, l'episodio "Byte the Silence", dedicato al cyberbullismo, è scaricabile gratuitamente per uso personale.
Perché la miglior difesa, in fondo, è una bella storia. 👉 Scopri tutto su https://betti.redhotcyber.com/