I black Hacker boicottano in massa ChatGPT, Claude e Gemini. Si va verso soluzioni Open!

Gli hacker stanno boicottando strumenti di intelligenza artificiale come ChatGPT, Claude e Gemini a causa delle loro limitazioni integrate contro l'uso dannoso. Questi strumenti rendono gli attacchi esistenti più veloci ed economici, ma i criminali si stanno spostando verso modelli open-source per evitare restrizioni e avere maggior controllo. Le difese basate su IA mantengono ancora un vantaggio significativo.

Gli hacker stanno boicottando massicciamente strumenti di intelligenza artificiale come ChatGPT, Claude e Gemini. Questi strumenti, che aiutano i dipendenti d’ufficio a velocizzare le attività routinarie, vengono sempre meno utilizzati dai criminali informatici per le loro restrizioni. Questo è quanto emerge dal terzo rapporto annuale di ReliaQuest, dedicato all’uso dell’intelligenza artificiale nelle attacchi cibernetici.

Il principale risultato del rapporto è chiaro: l’IA non genera nuovi tipi di attacchi, ma rende quelli esistenti più veloci, economici e meno rilevabili. I criminali integrano l’IA in quasi ogni fase dell’attacco, dalla creazione di pagine di phishing convincenti alla raccolta di credenziali e alla scrittura di codice dannoso. Un esempio significativo è la rapida implementazione di un “web shell”  in soli 60 secondi, un compito impossibile da eseguire manualmente.

Parallelamente, sul dark web è cresciuto il mercato degli strumenti pronti per le attacchi: da programmi per sostituire i volti nei video a sistemi che automatizzano l’attacco dall’inizio alla fine. Tuttavia, modelli avanzati come Claude, Grok, Gemini e ChatGPT risultano difficili da utilizzare per i criminali a causa delle limitazioni integrate contro l’uso dannoso, che impediscono gli attacchi anche con richieste di bypass specifiche.

Per questo motivo, gli hacker si stanno spostando verso modelli open-source senza censura come Qwen, Dolphin e Mistral, che offrono meno qualità ma sono più prevedibili e non dipendono da fornitori cloud che potrebbero interrompere le sessioni.

Un altro metodo utilizzato dai criminali sfrutta la fiducia nelle marche di IA note. Gli utenti vengono ingannati per installare estensioni dannose o eseguire comandi sotto il pretesto di una configurazione normale. Questo approccio è stato adottato da gruppi specializzati in ingegneria sociale, distribuzione di malware e inserimento di falsi lavoratori IT provenienti dalla Corea del Nord. Gli obiettivi variano: dal riscatto alla raccolta dati, passando per la frode e il supporto allo spionaggio.

La difesa, secondo i risultati del rapporto, mantiene ancora un vantaggio. Le limitazioni dei modelli avanzati stanno ostacolando l’utilizzo illecito delle AI per generare attacchi, mentre le difese basate su IA permettono di rilevare e contenere le minacce in pochi secondi. Ridurre il rischio oggi, implica investire in queste tecnologie: le organizzazioni che hanno già adottato tali strumenti e li utilizzano a pieno regime sono quelle che ne trarranno maggior beneficio.

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response