Redazione RHC : 26 Gennaio 2024 12:00
Abbiamo riportato recentemente, che un falso “joe Biden” ha chiamato al telefono diversi abitanti del New Hampshire dicendo di non presentarsi alle primarie del Partito Democratico, previste per martedì 23 gennaio 2024.
Un altro scandaloso incidente ha coinvolge l’uso dell’intelligenza artificiale per creare e distribuire immagini oscene della famosa cantante Taylor Swift ha suscitato una protesta pubblica. Secondo 404 Media, le immagini oscene generate dall’intelligenza artificiale sono apparse per la prima volta su un canale Telegram. Tale canale è dedicato alla creazione di contenuti simili utilizzando immagini di donne famose, per poi diffondersi rapidamente su X.
Una delle immagini più virali di Swift, generata da una IA gratuita, è durata per ben 17 ore. Il post ha ricevuto 45 milioni di visualizzazioni e 24.000 condivisioni prima di essere rimossa insieme agli account che condividevano immagini simili.
 Scarica Gratuitamente Byte The Silence, il fumetto sul Cyberbullismo di Red Hot Cyber"Il cyberbullismo è una delle minacce più insidiose e silenziose che colpiscono i nostri ragazzi. Non si tratta di semplici "bravate online", ma di veri e propri atti di violenza digitale, capaci di lasciare ferite profonde e spesso irreversibili nell’animo delle vittime. Non possiamo più permetterci di chiudere gli occhi". Così si apre la prefazione del fumetto di Massimiliano Brolli, fondatore di Red Hot Cyber, un’opera che affronta con sensibilità e realismo uno dei temi più urgenti della nostra epoca. Distribuito gratuitamente, questo fumetto nasce con l'obiettivo di sensibilizzare e informare. È uno strumento pensato per scuole, insegnanti, genitori e vittime, ma anche per chi, per qualsiasi ragione, si è ritrovato nel ruolo del bullo, affinché possa comprendere, riflettere e cambiare. Con la speranza che venga letto, condiviso e discusso, Red Hot Cyber è orgogliosa di offrire un contributo concreto per costruire una cultura digitale più consapevole, empatica e sicura. Contattaci tramite WhatsApp al numero 375 593 1011 per richiedere ulteriori informazioni oppure alla casella di posta [email protected]
Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì. |
Nonostante i massicci sforzi da parte dei fan di Swift per impedire la condivisione delle immagini, alcune di esse sono ancora disponibili su X. I fan hanno combattuto i falsi creando numerosi post e hashtag che promuovono clip reali della performance della Swift per coprire le immagini false.
Le immagini controverse non sono i classici “deepfake”, in cui il volto di una persona viene sostituito con un altro in un video. Vengono creati utilizzando strumenti di generazione di immagini AI disponibili in commercio, evidenziando il crescente problema del controllo di tali contenuti.
Il canale Telegram, ha riferito che le immagini AI sono ottenute nello strumento Designer di Microsoft. I membri del gruppo si scambiano suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft, come l’utilizzo di nomi di celebrità con parole extra.
Quindi, invece di “Taylor Swift” è stato proposto di utilizzare “Taylor ‘cantante’ Swift”. Microsoft, Telegram e un rappresentante di Taylor Swift non hanno fornito alcun commento sulla situazione. Le filigrane delle immagini AI di Swift indicano che si sono diffuse ben oltre Telegram e X. Sono stati pubblicati anche su siti con contenuti osceni.
Vale la pena notare che Taylor Swift è stato uno dei primi obiettivi a utilizzare la tecnologia per creare immagini pornografiche. Questo è avvenuto sin dalle prime indagini in questo settore alla fine del 2017. Con l’emergere dei deepfake all’inizio del 2018, la maggior parte delle principali piattaforme di social media ha apportato modifiche ai propri termini di utilizzo. Tutto questo nel tentativo di frenare il crescente problema dell’uso inappropriato dell’intelligenza artificiale per creare immagini pornografiche. Nonostante ciò, moderare tali contenuti rimane una sfida.
L’incidente che ha coinvolto un falso “joe Biden” e l’uso di intelligenza artificiale (IA) per generare immagini oscene di Taylor Swift solleva una serie di preoccupazioni sul controllo e la regolamentazione delle IA. Questi episodi, insieme a una serie di altri eventi, indicano che le IA stanno rapidamente sfuggendo al nostro controllo, generando disinformazione e caos su larga scala.
L’escalation di fatti come questo dimostra che le IA sono diventate strumenti potenti per manipolare l’opinione pubblica e diffondere contenuti dannosi. Nel caso di Taylor Swift, l’uso di un sistema di IA gratuito su un canale Telegram ha permesso la creazione e la diffusione di immagini oscene per un periodo prolungato, nonostante i tentativi dei fan di fermarne la condivisione.
È evidente che il problema non riguarda solo i “deepfake” classici, ma coinvolge anche strumenti di generazione di immagini AI accessibili a chiunque. Il canale Telegram ha riferito che le immagini sono state ottenute utilizzando lo strumento Designer di Microsoft, sollevando interrogativi sulla sicurezza e il controllo di tali tecnologie.
Il fatto che membri del gruppo scambino suggerimenti su come aggirare i meccanismi di sicurezza di Microsoft mette in luce la difficoltà di controllare l’abuso delle IA, specialmente quando queste diventano strumenti di facile accesso per la creazione di contenuti dannosi.
Di fronte a questa crescente sfida, è urgente adottare misure efficaci per regolamentare l’uso delle IA e garantire la sicurezza e l’integrità delle informazioni online. Le piattaforme tecnologiche, come Microsoft e Telegram, insieme a figure pubbliche coinvolte, devono affrontare questa questione in modo proattivo.
RedazioneTre importanti gruppi di ransomware – DragonForce, Qilin e LockBit – hanno annunciato un’alleanza. Si tratta essenzialmente di un tentativo di coordinare le attività di diversi importanti opera...
Sarebbe fantastico avere un agente AI capace di analizzare automaticamente il codice dei nostri progetti, individuare i bug di sicurezza, generare la correzione e pubblicarla subito in produzione. Epp...
La disillusione nei confronti degli incontri online spinge sempre più le donne a cercare intimità emotiva nel mondo virtuale. Sempre più donne si rivolgono all’intelligenza artificiale, ovvero ai...
Una falla critica di 13 anni, nota come RediShell, presente in Redis, permette l’esecuzione di codice remoto (RCE) e offre agli aggressori la possibilità di acquisire il pieno controllo del sistema...
Se n’è parlato molto poco di questo avvenimento, che personalmente reputo strategicamente molto importante e segno di un forte cambiamento nella gestione delle vulnerabilità non documentate in Ita...
