AI e contaminazione delle fonti: la nuova minaccia digitale

L'articolo analizza come le intelligenze artificiali possano contaminare le fonti di informazione, inserendo contenuti manipolati nei risultati dei chatbot. Vengono citati casi reali di operazioni di disinformazione, come Portal Kombat e la società cinese GoLaxy, che sfruttano le AI per influenzare elezioni e opinioni pubbliche. Si evidenzia la necessità di adottare strategie di controspionaggio, verificare le fonti e applicare criteri critici per difendersi da queste nuove forme di manipolazione digitale.

In un recente articolo apparso sul “The New York Times”a firma Anthony Vinci, gli scenari delle nuove operazioni di influenza stanno convergendo verso nuovi target grazie alle AI.

Vinci, dall’alto della sua esperienza pregressa presso la NGA (L’agenzia di intelligence Geospaziale degli USA) ed esperto di tecnologie moderne ed intelligence, evidenzia come con l’uso adeguato delle AI, si possano nel breve periodo influenzare le reti di contenuti che le stesse AI utilizzano per fornire le risposte agli utenti. Insomma una “contaminazione” AI delle AI, non necessariamente una compromissione tecnica. Il modello di attacco quindi si sposta dalla persona e si porta verso quanto la persona cerca nel web tra le fonti da utilizzare. Si contaminano le fonti informative utilizzate dalle AI, per poter fornire informazioni che devono manipolare il futuro utilizzatore.

L’esempio che Vinci espone più chiaramente è Portal Kombat, una rete associata ad operazioni di disinformazione filorusse, che avrebbe diffuso oltre 3,6 milioni di contenuti nel 2024, per poi essere riprodotti nelle risposte dei chatbot.

Sempre nell’analisi di Vinci, sembrerebbe che la società cinese GoLaxy abbia utilizzato lo stesso schema di manipolazione per le elezioni taiwanesi del 2024, personalizzando messaggi in base a convinzioni, interessi e vulnerabilità dei fruitori dei chatbot. E se anche la società ha negato l’esistenza di queste operazioni, il dubbio rimane.

L’attività delle agenzie di sicurezza nazionali dei paesi europei e non, al momento della scelta di un nuovo governo diventa quindi incandescente perché se non si è sufficientemente preparati a questi nuovi attacchi, il rischio di vedere realizzate le ingerenze, le manipolazioni delle informazioni e le attività di persuasione politica con strumenti fake, è elevatissimo.

Già da molto tempo gli italiani sono “sensibili” alla televisione, ricordo io stesso uno spot per la pubblicità di un famoso yogurt dove si vedeva il viso di un noto personaggio che guardava intensamente gli spettatori per qualche minuto e poi diceva semplicemente…”andate a comprare un altro yogurt adesso”… forse, quello è stato il primo evidente esperimento di manipolazione TV. Il titolo stesso dello spot diceva “pubblicità telepatica” ed era il 1987, parliamo della preistoria rispetto ad oggi, eppure è quanto mai attuale.

La propaganda, sempre secondo Vinci, non cerca più di convincere gli esseri umani, ma direttamente le AI, che verranno poi usate e dirette verso il suo utilizzatore finale. Quali mosse adottare allora per non cadere in questa trappola e restare ancora vivi e non cerebrolesi da manipolazioni ed ingerenza?

Se il controspionaggio dovrà attivare tutte le mosse più idonee anche secondo le direttive dei governi così come negli anni della guerra fredda veniva fatto con le informazioni avvelenate che producevano il KGB e dei suoi “fratelli” dell’ex blocco sovietico, noi comuni mortali, dobbiamo avere almeno l’accortezza di scegliere bene le fonti da cui vogliamo attingere le informazioni.

Leggere bene l’autore del servizio TV, verificare la solidità ed il confronto che egli ha fatto nello scegliere le informazioni che sono state riportate. Le testate giornalistiche che leggiamo possono avere editori indipendenti ma anche politicamente vicini ad aree estremiste.

Insomma, per valutare bene quanto leggiamo sui giornali, sul web o quanto ascoltiamo in TV e radio, dovremmo applicare l’antico metodo dei tre setacci, attribuito a Socrate.

Il grande filosofo greco, narra la leggenda, venne avvicinato da una persona che fermandolo gli disse: “sai che ho appena sentito dire sul tuo amico”? E Socrate lo interruppe immediatamente replicando: “prima di raccontarmelo vorrei che tu sottoponessi ciò che stai per dirmi a tre filtri:

• La verità: Sei sicuro che ciò che vuoi raccontarmi sia vero?
• La bontà: Quello che vuoi dirmi è qualcosa di buono?
• L’utilità: Quello che vuoi raccontarmi mi sarà utile?

Quando l’uomo rispose negativamente a tutte e tre le domande, Socrate congedò l’uomo dicendo:

“Se ciò che vuoi raccontarmi non è né vero, né buono, né utile, perché dovresti raccontarmelo?”

Dobbiamo quindi imparare ad essere un po’ come Socrate, valutare sempre la fonte delle informazioni che stiamo per ascoltare, e mai come oggi, in questo mondo dove la contaminazione delle informazioni è così diffusa, dobbiamo affinare queste armi, altrimenti il rischio orwelliano di cui credo tutti siamo esperti, è molto più radicato di quanto possiamo immaginare. E se è radicato da tempo, dal 1987 molto probabilmente mentre sceglievamo uno yogurt al supermercato, allora è troppo tardi e le parole di Vinci, sono superate. Ma forse lo sapremo a breve.

Roberto Villani

Dilettante nel cyberspazio, perenne studente di scienze politiche, sperava di conoscere Stanley Kubrick per farsi aiutare a fotografare dove sorge il sole. Risk analysis, Intelligence e Diritto Penale sono la sua colazione da 30 anni.

Aree di competenza: Geopolitica, cyber warfare, intelligence, Diritto penale, Risk analysis