Gli hacker sono stufi dell’IA! Il dark web si ribella alla spazzatura agentica

L’intelligenza artificiale sta generando tensioni nel dark web. Secondo uno studio condotto dalle Università di Edimburgo, Cambridge e Strathclyde, i cybercriminali criticano sempre più la diffusione di contenuti AI di bassa qualità nei forum hacker. Pur restando elevato l’interesse verso strumenti generativi usati per frodi, SEO spam e jailbreak dei modelli, i ricercatori non rilevano un impatto rivoluzionario dell’IA sul cybercrime tradizionale né un abbassamento concreto della barriera d’ingresso per nuovi criminali informatici.

Anche i criminali informatici si stanno stancando della spazzatura generata dall’IA, ovvero del flusso di contenuti di bassa qualità prodotti dalle reti neurali. Wired riporta che nei forum underground e nelle piattaforme di hacker si registrano sempre più lamentele riguardo alla “spazzatura dell’IA” che si insinua in discussioni, guide e articoli tecnici.

I giornalisti scrivono che il malcontento degli utenti è stato innescato, in parte, dai piani di implementare attivamente l’intelligenza artificiale generativa di una piattaforma di hacker non specificata. Un membro del forum ha affermato che nessuno aveva richiesto l’aggiunta di un’IA di bassa qualità e che l’amministrazione avrebbe dovuto invece concentrarsi sul miglioramento del sito.

Secondo Ben Collier, ricercatore presso l’Università di Edimburgo, questa reazione sta diventando sempre più comune. In un nuovo studio (del quale avevamo parlato qualche giorno fa) i ricercatori hanno esaminato come i criminali informatici utilizzano l’intelligenza artificiale e hanno riscontrato una crescente insoddisfazione nei confronti dei modelli generativi sul dark web.

Lo studio è stato condotto congiuntamente con ricercatori dell’Università di Cambridge e dell’Università di Strathclyde.

Gli esperti hanno analizzato quasi 98.000 discussioni relative all’intelligenza artificiale su forum di hacker (dal lancio di ChatGPT nel 2022 alla fine del 2025). È emerso che l’atteggiamento nei confronti dell’IA nella comunità dei criminali informatici è cambiato significativamente negli ultimi due anni.

Mentre in passato molti discutevano di come le reti neurali potessero aiutare a scrivere codice dannoso o a trovare vulnerabilità, ora gli utenti si lamentano sempre più spesso della valanga di post inutili sull’IA e di guide elementari su argomenti di base.

Inoltre, alcuni partecipanti al forum sono insoddisfatti del fatto che i risultati di ricerca basati sull’intelligenza artificiale di Google stiano riducendo il traffico verso i siti stessi.

Collier osserva che per molti forum di hacker, non solo l’aspetto criminale, ma anche quello sociale è importante. Lì ci si costruisce una reputazione, si organizzano concorsi e i partecipanti abituali stringono relazioni nel corso degli anni. In questo contesto, i contenuti generati dall’intelligenza artificiale vengono percepiti come una minaccia alla natura stessa della comunità.

Allo stesso tempo, l’interesse per l’utilizzo dell’IA nella criminalità informatica non è diminuito. Secondo Ian Gray, vicepresidente di Flashpoint, gli hacker più sofisticati sono già in grado di aggirare le restrizioni di sicurezza dei modelli commerciali e sanno come sbloccarli (jailbreak). I ricercatori di Flashpoint hanno anche notato un’intensa discussione sul dark web riguardo al nuovo modello Claude Mythos Preview di Anthropic.

Nel complesso, i ricercatori non riscontrano un impatto significativo dell’IA sulle attività dei cybercriminali inesperti. Ad esempio, i modelli generativi non hanno ancora abbassato la barriera d’ingresso per i nuovi arrivati né portato a cambiamenti fondamentali nell’ecosistema.

L’impatto più evidente dell’IA è stato finora osservato solo negli schemi automatizzati: frodi SEO, bot sui social media e alcune tipologie di truffe “romantiche”.

Carolina Vivianti

Carolina Vivianti è consulente/Advisor autonomo in sicurezza informatica con esperienza nel settore tech e security. Ha lavorato come Security Advisor per Ford EU/Ford Motor Company e Vodafone e ha studi presso la Sapienza Università di Roma.

Aree di competenza: Cybersecurity, IT Risk Management, Security Advisory, Threat Analysis, Data Protection, Cloud Security, Compliance & Governance