Red Hot Cyber
La cybersecurity è condivisione. Riconosci il rischio, combattilo, condividi le tue esperienze ed incentiva gli altri a fare meglio di te.
Cerca
Red Hot Cyber Academy

Propaganda Computazionale: le AI ci porteranno un internet di disinformazione. Parola di Bruce Schneier

Redazione RHC : 22 Novembre 2023 07:44

Perché la “memoria” dei cani robot giapponesi AIBO è archiviata nel cloud e in che modo gli esperti di marketing ci fanno provare simpatia per gli oggetti inanimati? Leggi questo in un estratto dal libro del pioniere della crittografia moderna, Bruce Schneier.

Durante le elezioni americane del 2016, circa un quinto di tutti i tweet politici sono stati postati da bot. Durante il voto sulla Brexit nel Regno Unito di quell’anno, la quota era pari a un terzo. Un rapporto del 2019 dell’Oxford Internet Institute ha trovato prove dell’uso di bot per diffondere propaganda in 50 paesi. Di norma, si trattava di programmi semplici, che ripetevano slogan senza pensare. Ad esempio, dopo l’omicidio di Jamal Khashoggi nel 2018, circa un quarto di milione di tweet filo-sauditi, “Ci fidiamo tutti del [principe ereditario] Mohammed bin Salman”, sono stati pubblicati tramite bot.

Nel 2017, la Federal Communications Commission ha annunciato che avrebbe avviato discussioni pubbliche online sui suoi piani per abrogare la neutralità della rete. Sono stati ricevuti l’incredibile cifra di 22 milioni di commenti, molti dei quali, forse la metà, sono stati inviati utilizzando identità rubate. Questi commenti falsi sono stati fatti in modo molto rozzo: 1,3 milioni di essi sarebbero stati creati a partire dallo stesso modello, con alcune parole modificate per renderlo unico. Questo era visibile ad occhio nudo. 


Vuoi diventare un esperto del Dark Web e della Cyber Threat Intelligence (CTI)?
Stiamo per avviare il corso intermedio in modalità "Live Class" del corso "Dark Web & Cyber Threat Intelligence".
A differenza dei corsi in e-learning, disponibili online sulla nostra piattaforma con lezioni pre-registrate, i corsi in Live Class offrono un’esperienza formativa interattiva e coinvolgente.
Condotti dal professor Pietro Melillo, le lezioni si svolgono online in tempo reale, permettendo ai partecipanti di interagire direttamente con il docente e approfondire i contenuti in modo personalizzato. Questi corsi, ideali per aziende, consentono di sviluppare competenze mirate, affrontare casi pratici e personalizzare il percorso formativo in base alle esigenze specifiche del team, garantendo un apprendimento efficace e immediatamente applicabile.

Contattaci tramite WhatsApp al 375 593 1011 per richiedere ulteriori informazioni oppure scriviti alla casella di posta [email protected]




Supporta RHC attraverso:
L'acquisto del fumetto sul Cybersecurity Awareness
Ascoltando i nostri Podcast
Seguendo RHC su WhatsApp
Seguendo RHC su Telegram
Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab


Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.


Tali tentativi diventeranno sempre più sofisticati. Per anni, i programmi di intelligenza artificiale hanno prodotto notizie sportive e finanziarie per organi di informazione reali come l’Associated Press. La natura limitata della maggior parte dei report su questi argomenti ha reso più semplice l’adattamento all’intelligenza artificiale. Oggi l’intelligenza artificiale viene utilizzata per scrivere storie più generali. I moderni sistemi di generazione di testo come GPT-3 di Open AI possono scrivere storie vere basate sui fatti che forniscono, ma possono anche scrivere notizie false quando vengono alimentate con bugie.

Non ci vuole molta immaginazione per capire come l’intelligenza artificiale peggiorerà il discorso politico. I personaggi controllati dall’intelligenza artificiale possono già scrivere lettere a giornali e funzionari eletti, lasciare commenti comprensibili su siti di notizie e bacheche e discutere di politica sui social network. Man mano che questi sistemi diventano più dettagliati e simulano in modo più convincente la personalità, diventa sempre più difficile distinguerli dalle persone reali. Le tattiche che una volta erano ovvie non sono più così facili da riconoscere oggi.

In un recente esperimento, i ricercatori hanno utilizzato un programma di generazione di testo per inviare 1.000 commenti in risposta a una richiesta del governo affinché i cittadini intervenissero su una questione di aiuto medico. Ogni commento sembrava unico, come se persone reali difendessero le proprie posizioni politiche. Gli amministratori del sito Medicaid.gov non hanno nemmeno dubitato della loro autenticità e hanno preso tutto per oro colato. I ricercatori hanno successivamente segnalato loro questi commenti e hanno chiesto loro di rimuoverli per evitare pregiudizi nei dibattiti politici. Tuttavia, non tutti saranno così etici.

Questi metodi vengono già utilizzati nel mondo reale per influenzare la politica. Una campagna di propaganda online ha utilizzato immagini facciali generate dall’intelligenza artificiale per creare falsi giornalisti. La Cina ha diffuso messaggi di testo generati dall’intelligenza artificiale progettati per influenzare le elezioni di Taiwan del 2020. La tecnologia Deepfake, che utilizza l’intelligenza artificiale per creare video realistici di eventi falsi, spesso coinvolgendo persone reali, per raffigurarle mentre dicono qualcosa che non hanno mai detto, è già in uso per scopi politici in paesi come Malesia, Belgio e Stati Uniti.

Un esempio di estensione di questa tecnologia è il bot come persone. Un’intelligenza artificiale che finge di essere un essere umano sui social media. I bot hanno una storia personale, un carattere e uno stile di comunicazione propri. Non si impegnano in una vera e propria propaganda. Tali robot vengono introdotti in vari gruppi di interesse: giardinaggio, lavoro a maglia, modellismo ferroviario, qualunque cosa. Si comportano come membri regolari di queste comunità, pubblicano, commentano e discutono. Sistemi come GPT-3 consentono loro di estrarre facilmente informazioni da conversazioni precedenti e contenuti Internet rilevanti per apparire come esperti in un particolare campo. 

Quindi, di tanto in tanto, la persona del bot potrebbe pubblicare qualcosa di politico, come un articolo sulla reazione allergica di un operatore sanitario al vaccino COVID-19, accompagnato da commenti preoccupati. Oppure fornire l’opinione sulle recenti elezioni, sulla giustizia razziale o su qualsiasi altro argomento polarizzante. Una “persona-bot” non può cambiare l’opinione pubblica, ma cosa succede se ce ne sono migliaia? O milioni?

A questo fenomeno è già stato dato un nome: propaganda computazionale. Cambierà radicalmente la nostra comprensione della comunicazione. L’intelligenza artificiale ha il potenziale per rendere infinita la diffusione della disinformazione. E può cambiare completamente il concetto stesso di comunicazione. Nel 2012, l’etica della robotica Kate Darling ha condotto un esperimento con un dinosauro di plastica animatronica chiamato Cleo, un giocattolo che rispondeva in modo diverso al tatto. Dopo che i partecipanti alla conferenza scientifica hanno giocato con Cleo, lei ha cercato di convincerli a “ferire” il giocattolo in vari modi. 

Tuttavia, anche giocare con Cleo per un breve periodo ha fatto provare così tanta simpatia alle persone che si sono rifiutate di farlo, anche se il giocattolo chiaramente non sentiva dolore. Questa è una reazione umana fondamentale. Intellettualmente potremmo capire che Cleo sia solo un dinosauro di plastica verde, ma la grande testa abbinata ad un corpo piccolo ci fa percepire l’oggetto come un bambino. Inoltre, il giocattolo ha un nome che ci dice che è “lei”! E lei reagisce ai nostri tocchi! 

All’improvviso iniziamo a trattarla come un essere vivente e ci sentiamo obbligati a proteggerla da qualsiasi male. E anche se questa reazione sembra piuttosto benevola, cosa succede quando questo simpatico robottino guarda i suoi proprietari con grandi occhi tristi e chiede loro di comprargli un aggiornamento software?

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli

Articoli in evidenza

Multa di 2,95 miliardi di euro per Google per abuso di posizione dominante
Di Redazione RHC - 07/09/2025

La Commissione Europea ha inflitto a Google una multa di 2,95 miliardi di euro, per abuso di posizione dominante nel mercato della pubblicità digitale. L’autorità di regolamentazione ha affermato ...

I Padri Fondatori della Community Hacker
Di Massimiliano Brolli - 06/09/2025

La cultura hacker è nata grazie all’informatico Richard Greenblatt e al matematico Bill Gosper del Massachusetts Institute of Technology (MIT). Tutto è iniziato nel famoso Tech Model Railroad Club...

38 milioni di Numeri di telefono di Italiani in vendita nel Dark Web. E’ che Smishing Sia!
Di Redazione RHC - 06/09/2025

Sette italiani su dieci hanno il proprio numero di telefono incluso in questa banca dati. Ma cosa significa attualmente disporre di un tale quantitativo di numeri telefonici concentrati all’interno ...

Se Flash è morto, ecco a voi l’SVG Assassino! Il phishing 2.0 è in alta definizione
Di Redazione RHC - 05/09/2025

I criminali informatici hanno lanciato una nuova ondata di attacchi che utilizzano file SVG per distribuire pagine di phishing. Gli esperti di VirusTotal hanno segnalato che gli aggressori si spaccian...

Supercomputer: l’Italia al sesto e decimo posto nella classifica TOP500 del 2025
Di Redazione RHC - 05/09/2025

Il mondo dei supercomputer è entrato nell’era dell’exascale computing. La classifica TOP500 di giugno per il 2025 ha registrato tre sistemi americani ai vertici, un debutto clamoroso dall’Europ...