Il deepfake diventa il nuovo strumento di propaganda politica

I ricercatori della società di analisi Graphika hanno scoperto una serie di video deepfake in cui i conduttori di notizie diffondono propaganda del governo filo-cinese. Secondo gli esperti, la campagna di propaganda è condotta dal gruppo Spamouflage.

Il video mostra un uomo e una donna che conducono notiziari per la società di media Wolf News.

In un video, un conduttore di notizie denuncia l’America per il suo fallimento nel fermare la violenza armata. In un altro video, i presentatori televisivi sottolineano la necessità della cooperazione sino-americana negli sforzi per ripristinare l’economia globale.

“A prima vista, i presentatori di Wolf News sembrano persone reali”, afferma Graphika. “All’inizio pensavamo che fossero attori pagati assunti per girare video”.

Ulteriori indagini di Graphika hanno rivelato che il video ha utilizzato la tecnologia fornita da una società britannica di intelligenza artificiale chiamata Synthesia. 

Le persone generate dall’IA parlano arabo, rumeno, spagnolo e inglese nei video.

Synthesia afferma di non offrire il suo software per uso pubblico. 

Tutti i contenuti passano attraverso un processo di revisione interna prima di essere rilasciati a clienti fidati. Inoltre, ci sono restrizioni su ciò che gli avatar possono dire: “I contenuti politici, sessuali, personali, criminali e discriminatori non sono consentiti o approvati”.

La campagna Spamouflage viola entrambe le politiche.

Spamouflage in qualche modo ha preso il sopravvento e ha utilizzato la tecnologia di Synthesia per produrre i propri contenuti, violando le regole di Synthesia.

Tuttavia, nonostante l’uso di avatar, il resto dei video di Spamouflage sembra essere “spam politico di scarsa qualità”. Allo stesso tempo, l’83% dei video ha ottenuto meno di 100 visualizzazioni su YouTube.

Inoltre, il rapporto conclude che l’elemento deepfake nei comunicati stampa “quasi certamente è stato creato utilizzando un servizio commerciale” piuttosto che internamente. 

Ciò suggerisce che Spamouflage e altre società non hanno le competenze tecniche per creare deepfake molto complessi e continueranno a utilizzare gli strumenti commerciali disponibili. Tuttavia, come sottolinea Graphika, ciò solleva anche interrogativi su come moderare efficacemente l’uso di questi prodotti e servizi.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.