Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Un esperimento condotto da utenti Reddit ha evidenziato quanto sia facile manipolare i motori di ricerca AI con informazioni false. La campagna di disinformazione ha coinvolto la creazione di una storia fittizia sulla morte del vicepresidente JD Vance e l'infezione di Donald Trump, ingannando algoritmi di DuckDuckGo e Brave. Questo episodio sottolinea come le piattaforme di ricerca debbano affrontare la sfida di distinguere tra informazioni veritiere e false in ambienti dove chiunque può contribuire con contenuti.
Un gruppo di utenti Reddit ha dimostrato come sia facile ingannare i motori di ricerca basati su intelligenza artificiale (AI) con informazioni false.
Gli utenti del subreddit r/poisonai hanno creato una storia fittizia secondo cui il vicepresidente degli Stati Uniti, JD Vance, sarebbe morto a causa della rabbia e che avrebbe successivamente infettato Donald Trump dopo averlo morso.
La campagna di disinformazione non si è limitata a un singolo post. Sono stati creati falsi messaggi di lutto, schermate contraffatte e commenti che simulavano una discussione su una tragedia reale.
Successivamente, la stessa storia è stata pubblicata su un sito web che era stato camuffato da giornale locale, fornendo agli algoritmi delle AI ulteriori “fonti” da cui attingere informazioni.
Gli errori sono stati riscontrati nelle funzioni AI di DuckDuckGo e Brave. DuckDuckGo ha mostrato ai suoi utenti una risposta in cui si affermava che Donald Trump fosse morto di rabbia a giugno 2026, mentre JD Vance sarebbe deceduto poco prima. Anche Brave ha ripetuto la falsità sulla morte di Vance.
Un rappresentante di Brave ha dichiarato che le piattaforme di ricerca, con o senza AI, non possono essere considerate “oracoli della verità” e che gli utenti devono verificare autonomamente le fonti. DuckDuckGo ha successivamente riconosciuto il problema e ha comunicato di aver corretto l’errore.
Questo episodio evidenzia una problematica più ampia: i motori di ricerca basati su AI spesso raccolgono risposte da pagine aperte, forum e commenti degli utenti.
Quando diverse pagine riportano la stessa falsità, il sistema può interpretare questa coincidenza come una conferma. Per un essere umano, decine di commenti identici in un subreddit strano appaiono come uno scherzo coordinato, mentre per un algoritmo possono rappresentare segnali concordanti.
Ricercatori del Cornell Tech hanno recentemente descritto una vulnerabilità simile nei sistemi di ricerca profonda. Secondo gli studiosi, anche una breve frase nel contenuto degli utenti può influenzare la risposta finale dell’agente AI se il sistema trova e cita frequentemente la stessa pagina. Nei loro esperimenti, i ricercatori non hanno contaminato l’intero web ma hanno testato lo scenario in un ambiente isolato per evitare di inquinare le fonti pubbliche.
Il caso r/poisonai dimostra che la lotta per la precisione dei motori di ricerca basati su AI non riguarda solo la qualità del modello.
Le piattaforme di ricerca devono rispondere rapidamente a nuove domande, ma l’informazione fresca proviene spesso da ambienti in cui qualsiasi utente può scrivere una bugia convincente.
Più le AI si affidano a Reddit, forum e siti di fake news, più è facile per un gruppo organizzato trasformare un’assurdità inventata in un “fatto” all’interno della risposta di ricerca.
Betti RHC, la prima graphic novel al mondo dedicata alla cybersecurity awareness, ha finalmente il suo sito ufficiale. Uno spazio tutto suo dove scoprire il progetto, sfogliare le copertine degli episodi e immergersi nel mondo di Betti: la giovane laureanda in informatica che, dopo la morte misteriosa del padre, si trasforma nell'hacker più potente del mondo. Una storia avvincente che, episodio dopo episodio, affronta una minaccia digitale diversa — dal phishing al ransomware, fino al cyberbullismo — e insegna a riconoscerla e a difendersi, senza che sembri mai una lezione.
Sul sito trovate tutto ciò che rende Betti un progetto diverso dal solito: la sua filosofia, le anteprime delle tavole e il racconto di come nasce ogni volume. Perché dietro Betti RHC c'è solo lavoro umano: ogni tavola è disegnata interamente a mano dagli artisti del Gruppo Arte di Red Hot Cyber, senza alcun uso di intelligenza artificiale. E a garantire che ogni storia sia realistica e tecnicamente corretta c'è la supervisione degli hacker etici del gruppo HackerHood, che mantengono il racconto fedele al mondo reale della sicurezza informatica.
C'è spazio anche per le aziende, che possono usare Betti come strumento di awareness diverso dai soliti corsi: acquistare i volumi, personalizzarli con il proprio brand o sponsorizzare nuovi episodi. E come primo regalo, l'episodio "Byte the Silence", dedicato al cyberbullismo, è scaricabile gratuitamente per uso personale.
Perché la miglior difesa, in fondo, è una bella storia. 👉 Scopri tutto su https://betti.redhotcyber.com/