Abbiamo riportato recentemente, che un falso “joe Biden” ha chiamato al telefono diversi abitanti del New Hampshire dicendo di non presentarsi alle primarie del Partito Democratico, previste per martedì 23 gennaio 2024.
Un altro scandaloso incidente ha coinvolge l’uso dell’intelligenza artificiale per creare e distribuire immagini oscene della famosa cantante Taylor Swift ha suscitato una protesta pubblica. Secondo 404 Media, le immagini oscene generate dall’intelligenza artificiale sono apparse per la prima volta su un canale Telegram. Tale canale è dedicato alla creazione di contenuti simili utilizzando immagini di donne famose, per poi diffondersi rapidamente su X.
Una delle immagini più virali di Swift, generata da una IA gratuita, è durata per ben 17 ore. Il post ha ricevuto 45 milioni di visualizzazioni e 24.000 condivisioni prima di essere rimossa insieme agli account che condividevano immagini simili.
 Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected].
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Nonostante i massicci sforzi da parte dei fan di Swift per impedire la condivisione delle immagini, alcune di esse sono ancora disponibili su X. I fan hanno combattuto i falsi creando numerosi post e hashtag che promuovono clip reali della performance della Swift per coprire le immagini false.
Le immagini controverse non sono i classici “deepfake”, in cui il volto di una persona viene sostituito con un altro in un video. Vengono creati utilizzando strumenti di generazione di immagini AI disponibili in commercio, evidenziando il crescente problema del controllo di tali contenuti.
Il canale Telegram, ha riferito che le immagini AI sono ottenute nello strumento Designer di Microsoft. I membri del gruppo si scambiano suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft, come l’utilizzo di nomi di celebrità con parole extra.
Quindi, invece di “Taylor Swift” è stato proposto di utilizzare “Taylor ‘cantante’ Swift”. Microsoft, Telegram e un rappresentante di Taylor Swift non hanno fornito alcun commento sulla situazione. Le filigrane delle immagini AI di Swift indicano che si sono diffuse ben oltre Telegram e X. Sono stati pubblicati anche su siti con contenuti osceni.
Vale la pena notare che Taylor Swift è stato uno dei primi obiettivi a utilizzare la tecnologia per creare immagini pornografiche. Questo è avvenuto sin dalle prime indagini in questo settore alla fine del 2017. Con l’emergere dei deepfake all’inizio del 2018, la maggior parte delle principali piattaforme di social media ha apportato modifiche ai propri termini di utilizzo. Tutto questo nel tentativo di frenare il crescente problema dell’uso inappropriato dell’intelligenza artificiale per creare immagini pornografiche. Nonostante ciò, moderare tali contenuti rimane una sfida.
L’incidente che ha coinvolto un falso “joe Biden” e l’uso di intelligenza artificiale (IA) per generare immagini oscene di Taylor Swift solleva una serie di preoccupazioni sul controllo e la regolamentazione delle IA. Questi episodi, insieme a una serie di altri eventi, indicano che le IA stanno rapidamente sfuggendo al nostro controllo, generando disinformazione e caos su larga scala.
L’escalation di fatti come questo dimostra che le IA sono diventate strumenti potenti per manipolare l’opinione pubblica e diffondere contenuti dannosi. Nel caso di Taylor Swift, l’uso di un sistema di IA gratuito su un canale Telegram ha permesso la creazione e la diffusione di immagini oscene per un periodo prolungato, nonostante i tentativi dei fan di fermarne la condivisione.
È evidente che il problema non riguarda solo i “deepfake” classici, ma coinvolge anche strumenti di generazione di immagini AI accessibili a chiunque. Il canale Telegram ha riferito che le immagini sono state ottenute utilizzando lo strumento Designer di Microsoft, sollevando interrogativi sulla sicurezza e il controllo di tali tecnologie.
Il fatto che membri del gruppo scambino suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft mette in luce la difficoltà di controllare l’abuso delle IA, specialmente quando queste diventano strumenti di facile accesso per la creazione di contenuti dannosi.
Di fronte a questa crescente sfida, è urgente adottare misure efficaci per regolamentare l’uso delle IA e garantire la sicurezza e l’integrità delle informazioni online. Le piattaforme tecnologiche, come Microsoft e Telegram, insieme a figure pubbliche coinvolte, devono affrontare questa questione in modo proattivo.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Innovazione
Cybercrime
Cybercrime
Vulnerabilità
Cyber Italia