Redazione RHC : 26 Gennaio 2024 12:00
Abbiamo riportato recentemente, che un falso “joe Biden” ha chiamato al telefono diversi abitanti del New Hampshire dicendo di non presentarsi alle primarie del Partito Democratico, previste per martedì 23 gennaio 2024.
Un altro scandaloso incidente ha coinvolge l’uso dell’intelligenza artificiale per creare e distribuire immagini oscene della famosa cantante Taylor Swift ha suscitato una protesta pubblica. Secondo 404 Media, le immagini oscene generate dall’intelligenza artificiale sono apparse per la prima volta su un canale Telegram. Tale canale è dedicato alla creazione di contenuti simili utilizzando immagini di donne famose, per poi diffondersi rapidamente su X.
Una delle immagini più virali di Swift, generata da una IA gratuita, è durata per ben 17 ore. Il post ha ricevuto 45 milioni di visualizzazioni e 24.000 condivisioni prima di essere rimossa insieme agli account che condividevano immagini simili.
Prompt Engineering & Sicurezza: diventa l’esperto che guida l’AIVuoi dominare l’AI generativa e usarla in modo sicuro e professionale? Con il Corso Prompt Engineering: dalle basi alla cybersecurity, guidato da Luca Vinciguerra, data scientist ed esperto di sicurezza informatica, impari a creare prompt efficaci, ottimizzare i modelli linguistici e difenderti dai rischi legati all’intelligenza artificiale. Un percorso pratico e subito spendibile per distinguerti nel mondo del lavoro. Non restare indietro: investi oggi nelle tue competenze e porta il tuo profilo professionale a un nuovo livello. Guarda subito l'anteprima gratuita del corso su academy.redhotcyber.com Contattaci per ulteriori informazioni tramite WhatsApp al 375 593 1011 oppure scrivi a [email protected] 
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Nonostante i massicci sforzi da parte dei fan di Swift per impedire la condivisione delle immagini, alcune di esse sono ancora disponibili su X. I fan hanno combattuto i falsi creando numerosi post e hashtag che promuovono clip reali della performance della Swift per coprire le immagini false.
Le immagini controverse non sono i classici “deepfake”, in cui il volto di una persona viene sostituito con un altro in un video. Vengono creati utilizzando strumenti di generazione di immagini AI disponibili in commercio, evidenziando il crescente problema del controllo di tali contenuti.
Il canale Telegram, ha riferito che le immagini AI sono ottenute nello strumento Designer di Microsoft. I membri del gruppo si scambiano suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft, come l’utilizzo di nomi di celebrità con parole extra.
Quindi, invece di “Taylor Swift” è stato proposto di utilizzare “Taylor ‘cantante’ Swift”. Microsoft, Telegram e un rappresentante di Taylor Swift non hanno fornito alcun commento sulla situazione. Le filigrane delle immagini AI di Swift indicano che si sono diffuse ben oltre Telegram e X. Sono stati pubblicati anche su siti con contenuti osceni.
Vale la pena notare che Taylor Swift è stato uno dei primi obiettivi a utilizzare la tecnologia per creare immagini pornografiche. Questo è avvenuto sin dalle prime indagini in questo settore alla fine del 2017. Con l’emergere dei deepfake all’inizio del 2018, la maggior parte delle principali piattaforme di social media ha apportato modifiche ai propri termini di utilizzo. Tutto questo nel tentativo di frenare il crescente problema dell’uso inappropriato dell’intelligenza artificiale per creare immagini pornografiche. Nonostante ciò, moderare tali contenuti rimane una sfida.
L’incidente che ha coinvolto un falso “joe Biden” e l’uso di intelligenza artificiale (IA) per generare immagini oscene di Taylor Swift solleva una serie di preoccupazioni sul controllo e la regolamentazione delle IA. Questi episodi, insieme a una serie di altri eventi, indicano che le IA stanno rapidamente sfuggendo al nostro controllo, generando disinformazione e caos su larga scala.
L’escalation di fatti come questo dimostra che le IA sono diventate strumenti potenti per manipolare l’opinione pubblica e diffondere contenuti dannosi. Nel caso di Taylor Swift, l’uso di un sistema di IA gratuito su un canale Telegram ha permesso la creazione e la diffusione di immagini oscene per un periodo prolungato, nonostante i tentativi dei fan di fermarne la condivisione.
È evidente che il problema non riguarda solo i “deepfake” classici, ma coinvolge anche strumenti di generazione di immagini AI accessibili a chiunque. Il canale Telegram ha riferito che le immagini sono state ottenute utilizzando lo strumento Designer di Microsoft, sollevando interrogativi sulla sicurezza e il controllo di tali tecnologie.
Il fatto che membri del gruppo scambino suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft mette in luce la difficoltà di controllare l’abuso delle IA, specialmente quando queste diventano strumenti di facile accesso per la creazione di contenuti dannosi.
Di fronte a questa crescente sfida, è urgente adottare misure efficaci per regolamentare l’uso delle IA e garantire la sicurezza e l’integrità delle informazioni online. Le piattaforme tecnologiche, come Microsoft e Telegram, insieme a figure pubbliche coinvolte, devono affrontare questa questione in modo proattivo.
RedazioneUna violazione di dati senza precedenti ha colpito il Great Firewall of China (GFW), con oltre 500 GB di materiale riservato che è stato sottratto e reso pubblico in rete. Tra le informazioni comprom...
Negli ultimi anni le truffe online hanno assunto forme sempre più sofisticate, sfruttando non solo tecniche di ingegneria sociale, ma anche la fiducia che milioni di persone ripongono in figure relig...
Microsoft ha ricordato agli utenti che tra un mese terminerà il supporto per l’amato Windows 10. Dal 14 ottobre 2025, il sistema non riceverà più aggiornamenti di sicurezza , correzioni di bug e ...
Negli ultimi mesi mi sono trovato più volte a redigere querele per video falsi che circolavano online. Non parliamo soltanto di contenuti rubati e diffusi senza consenso, ma anche di deepfake: filmat...
Le aziende appaltatrici della difesa statunitense stanno sviluppando uno strumento di intelligenza artificiale chiamato Cyber Resilience On-Orbit (CROO) per rilevare attacchi informatici ai satelliti ...
