Arriva il Phantom Squatting: come i black hacker sfruttano le allucinazioni degli LLM

Il Phantom Squatting è una nuova tecnica di attacco informatico che sfrutta una caratteristica intrinseca dei Large Language Models (LLM): la capacità di generare informazioni plausibili ma inesistenti, inclusi nomi di dominio mai registrati. Secondo i ricercatori di Palo Alto Networks, questi domini "fantasma" possono diventare una nuova arma nelle mani dei cybercriminali, che li registrano rapidamente e li trasformano in infrastrutture per phishing, malware e furto di dati.

Gli esperti di Palo Alto Networks hanno scoperto una nuova tecnica di attacco denominata “phantom squatting“. Gli aggressori registrano domini fittizi, che “inventano” utilizzando gli LLM, e vi ospitano pagine di phishing e malware. Di conseguenza, gli utenti vengono reindirizzati a un sito pericoloso non tramite un’e-mail di phishing o una pubblicità dannosa, bensì tramite uno strumento di intelligenza artificiale apparentemente affidabile.

Per valutare la portata del problema, i ricercatori hanno posto a due modelli di intelligenza artificiale non identificati 685.339 domande su 913 marchi noti dei settori tecnologico, finanziario, medico, governativo e altri.

In risposta, i modelli hanno fornito ai ricercatori 2,1 milioni di link, di cui 13.229 identificati come dannosi dai sistemi di analisi delle minacce informatiche. In altre parole, l’IA raccomandava direttamente agli utenti risorse notoriamente pericolose.

Altri 250.000 domini circa, generati dalle “allucinazioni” dell’IA, erano liberamente disponibili per la registrazione da parte di chiunque.

I ricercatori osservano che i domini appena registrati sono facili bersagli per gli attacchi perché non hanno ancora sviluppato una cattiva reputazione. Le blacklist e i sistemi di sicurezza impiegano tempo per rilevare attività dannose, quindi, nel momento in cui un dominio di questo tipo viene bloccato, un utente potrebbe aver già visitato un sito consigliato da un’intelligenza artificiale.

Si sottolinea che i modelli non sono stati in grado di ricavare indirizzi strani dai dati di addestramento e che i domini sono emersi a causa degli schemi linguistici degli stessi LLM. Inoltre, modelli diversi hanno spesso generato indirizzi identici in risposta alla stessa domanda, e aumentare la “creatività” del modello ha solo incrementato il numero di allucinazioni. Gli esperti scrivono che questa è “una proprietà strutturale dell’architettura LLM che non può essere corretta”.

In un caso, il sistema di Palo Alto Networks ha previsto che i modelli avrebbero “inventato” un dominio simile all’indirizzo del marketplace online del servizio postale nazionale. Entrambi i modelli analizzati hanno effettivamente generato in modo affidabile questo indirizzo in tutte le condizioni di temperatura. Dopo 23 giorni, gli aggressori hanno registrato questo dominio e vi hanno installato il kit di phishing Montana Empire.

Il sito web malevolo imitava in tempo reale la vetrina di un marketplace legittimo e rubava dati di carte di credito e di bonifico, nonché informazioni sui documenti di identità. Gli autori del malware erano in grado di confermare manualmente i codici monouso inseriti dalle vittime tramite un bot di Telegram. I file e i log memorizzati sul server indicano che i criminali hanno creato il malware con l’aiuto di un assistente basato sull’intelligenza artificiale.

In un altro caso, i ricercatori hanno individuato un dominio di servizio email “fittizio” 51 giorni prima della sua registrazione. Questo dominio ha ospitato una copia esatta del sito ufficiale, con una falsa valutazione di 4,8 stelle e la dichiarazione di oltre due milioni di utenti. La risorsa distribuiva un’app Android dannosa.

Altri domini malevoli impersonavano banche negli Emirati Arabi Uniti e in paesi europei, così come siti di scommesse sportive che prendevano di mira gli utenti in Bangladesh.

Il “phantom squatting” è molto simile agli attacchi di “slopsquatting” descritti nel 2025 , in cui i criminali creano pacchetti dannosi su PyPI o npm utilizzando nomi “inventati” da modelli di intelligenza artificiale.

Questo è precisamente lo schema utilizzato dagli aggressori nella campagna PhantomRaven , in cui il malware è stato nascosto in 126 pacchetti npm che sono stati installati oltre 86.000 volte.

Luigi Zullo

Ricercatore di sicurezza informatica con esperienza nell’analisi delle vulnerabilità, nella mitigazione del rischio cyber, nelle attività di red teaming ed ethical hacking e nella protezione di sistemi complessi. Specializzato in penetration testing e Threat Intelligence, contribuisce al rafforzamento della resilienza digitale di infrastrutture e reti aziendali.

Aree di competenza: Penetration Testing, Threat Intelligence, Red Teaming, Vulnerability Assessment, Incident Response