Gemini Usata Per Attivita’ Di Phishing: Google Fa Causa A Una Rete Cinese

Google ha annunciato di intraprendere azioni legali contro una rete di criminali cinesi che utilizza l'IA per creare messaggi di phishing e siti di truffa, con oltre 2,5 milioni di messaggi smishing inviati in due settimane

Nell’ era in cui viviamo, in cui l’IA sta entrando prepotentemente nelle nostre vite, questa non solo ci aiuta nella nostra quotidianità, ma diventa anche per attori malevoli uno strumento potente per intensificare e semplificare le loro attività. Le società fornitrici di questi modelli si trovano nelle condizioni di dover intraprendere azioni per difendere le modalità di sfruttamento delle proprie creazioni.

In questo panorama, venerdì Google ha annunciato di intraprendere azioni legali contro una rete di criminali cinesi, accusata di sfruttare il suo agente di IA (Gemini) per creare messaggi di phishing da inviare ai cittadini americani. Secondo il colosso tecnologico, questa rete sta dietro lo sviluppo e la gestione di un kit di software di phishing fornito come servizio Phishing-as-a-Service chiamato Outsider.

La rete Outside Enterprice, coordinata tramite i canali Telegram consente a utenti con competenze tecniche minime di creare e utilizzare rapidamente siti di truffa convincenti, sfruttando una libreria di oltre 290 template preconfezionati.

Da quanto si apprende “L’operazione ha reso Gemini un’arma per generare pagine di phishing fraudolente e per lanciare massicci attacchi tramite SMS (‘smishing’), spesso tramite messaggi di testo che si spacciano per marchi legittimi, avvertendo i destinatari di problemi con l’account di intermediazione o insistendo che siano idonei a ricevere ricompense tramite il loro operatore di telefonia mobile. Questi messaggi invitano gli utenti a cliccare su un link che porta a un sito fraudolento che imita istituzioni affidabili per rubare informazioni personali e finanziarie.'”

Oltre alla semplicità di plug-and-play fornite da Outsider, lo strumento è reso più potente dalle istruzioni fornite dall’infrastruttura Enterprice per trasformare il codice generato dall’ IA in un’arma. Mediante queste istruzioni, i membri possono scrivere il codice per un sito web, copiare e incollare quel codice in Outsider e generare rapidamente il sito fraudolento.

La portata delle attività è impressionante:

• 2,5 milioni di messaggi smishing sono stati inviati agli utenti Android in un periodo di sole due settimane a maggio 2026.
• 55.000 messaggi di spam sono stati segnalati dagli utenti Android durante la stessa finestra di due settimane, con più di due lamentele al minuto.
• 9.000+ siti web falsi e oltre 1 milione di URL fraudolenti collegati alla rete.
• Centinaia di migliaia di vittime furono truffate finanziariamente, con perdite totali stimate in milioni.

Google ha dichiarato che scopo della causa sarà quello di smantellare l’infrastruttura della rete e di collaborare con AT&T, T-Mobile e Verizon per interrompere il flusso dei messaggi che raggiungono i clienti.

Da quanto appreso il prompt per Gemini viene strutturato come richieste innocue di assistenza alla programmazione, chiedendo al modello di generare codice HTML per progettare una pagina web con le funzionalità desiderate, istruendolo a evitare l’uso di JavaScript e a impiegare CSS per implementarlo. Una volta che il sito contraffatto è online, il suo URL viene inviato alle potenziali vittime all’interno dei messaggi di testo.

Tra luglio 2023 e oggi i dati dell’FBI informano che la piattaforma ha causato il furto di circa 3.870.000 carte di credito e una corrispondente stima di 1,9 miliardi di dollari in perdite.

Questa causa stabilisce un precedente legale significativo: le piattaforme di IA possono e saranno utilizzate come basi esecutive per azioni civili quando gli attori minacciosi abusano dei modelli generativi per scalare infrastrutture criminali, segnalando un nuovo fronte nella lotta contro la criminalità informatica abilitata dall’IA.

Antonino Battaglia

Antonino Battaglia Ingegnere elettronico con oltre dieci anni di esperienza nell'automazione industriale e nella sicurezza informatica. Appassionato di tecnologia blockchain e criptovalute, collabora con Red Hot Cyber, condividendo la sua conoscenza su sicurezza informatica, automazione e IoT.