Gli hacker cinesi e russi usano ChatGPT di OpenAI per automatizzare la scansione delle vulnerabilità

Redazione RHC : 24 Febbraio 2024 08:43

Microsoft ha affermato che gli APT stranieri (collegati a Cina, Russia, Iran e Corea del Nord) utilizzano ChatGPT per automatizzare la scansione delle vulnerabilità, la ricognizione e varie attività di creazione di malware. OpenAI ha affermato di aver già bloccato diversi account di questo tipo.

In un nuovo rapporto, gli esperti Microsoft scrivono che stanno lavorando a stretto contatto con OpenAI e studiando l’uso di modelli linguistici di grandi dimensioni (LLM) da parte degli aggressori. Questi studi hanno dimostrato che diversi noti gruppi APT stanno sperimentando ChatGPT per ottenere maggiori informazioni dalle potenziali vittime, ottimizzare la scrittura di script dannosi, analizzare i bollettini di sicurezza disponibili al pubblico e studiare le ultime vulnerabilità.

Sebbene gli esperti non abbiano rilevato attacchi gravi utilizzando LLM, Microsoft afferma che gruppi di hacker provenienti da Russia, Cina, Corea del Nord e Iran utilizzano l’intelligenza artificiale nelle loro operazioni.

Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)? Stiamo per avviare il corso intermedio in modalità "Live Class" del corso "Dark Web & Cyber Threat Intelligence".  A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.   Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.  Guarda subito l'anteprima gratuita del corso su academy.redhotcyber.com Contattaci per ulteriori informazioni tramite WhatsApp al 375 593 1011 oppure scrivi a [email protected] Supporta RHC attraverso:   L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

“Gruppi criminali informatici, hacker governativi e altri avversari stanno esplorando e testando varie tecnologie di intelligenza artificiale man mano che emergono, cercando di comprenderne il potenziale valore per le loro operazioni e contro le difese che potrebbero dover aggirare”, hanno scritto gli analisti di Microsoft.

Ad esempio, in un caso, i ricercatori hanno scoperto che il gruppo Forest Blizzard (noto anche come APT28 e FancyBear) stava utilizzando LLM per condurre ricerche su vari protocolli di comunicazione satellitare e tecnologie di imaging radar.

Altri esempi forniti nel rapporto includono:

• Emerald Sleet (aka Kimusky): il gruppo nordcoreano ha utilizzato LLM per identificare esperti, think tank e organizzazioni coinvolte in questioni di difesa nella regione Asia-Pacifico, studiare le vulnerabilità disponibili al pubblico, eseguire attività di scripting di base e creare contenuti che potrebbero essere utilizzati nelle campagne di phishing;
• Crimson Sandstorm (alias Imperial Kitten): il gruppo iraniano ha utilizzato LLM per creare snippet relativi allo sviluppo di app e siti Web, generare e-mail di phishing e ricercare modi comuni per aggirare il rilevamento di malware;
• Charcoal Typhoon (aka Aquatic Panda): un gruppo di hacker cinese che ha utilizzato LLM per studiare varie aziende e vulnerabilità, creare script, contenuti per campagne di phishing e analizzare tecniche post-sfruttamento;
• Salmon Typhoon (alias Maverick Panda): un gruppo cinese che ha utilizzato LLM per tradurre documenti tecnici, ottenere informazioni pubbliche su varie agenzie di intelligence e minacce regionali, correggere bug nel codice e trovare tattiche per eludere il rilevamento.

I rappresentanti di OpenAI riferiscono di aver già bloccato gli account degli aggressori scoperti in collaborazione con Microsoft. L’azienda scrive che gli hacker “hanno cercato di utilizzare i servizi OpenAI per richiedere informazioni da fonti aperte, traduzioni, trovare errori nel codice ed eseguire attività di codifica di routine”.

Allo stesso tempo, OpenAI ha osservato che era stato precedentemente stabilito che “GPT-4 fornisce funzionalità aggiuntive molto limitate per eseguire attività dannose oltre a quelle già realizzabili utilizzando strumenti disponibili pubblicamente senza l’uso dell’intelligenza artificiale”.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli