Le AI alimentano gli abusi sui bambini. La forze dell’ordine fanno difficoltà a comprendere quali immagini siano reali

Gli esperti di protezione dei minori affermano di un grande aumento di “immagini di abusi sessuali su minori generate dall’intelligenza artificiale” che vengono create e condivise sui forum oscuri di pedofili, riferisce il Washington Post.

Questa “esplosione” di immagini spaventosamente realistiche potrebbe aiutare ad attirare bambini veri in una trappola e rendere più difficile per le forze dell’ordine trovare vittime reali, hanno detto gli esperti.

Trovare chi crea questi materiali è già come “cercare un ago nel pagliaio”, ha affermato Rebecca Portnoff, direttrice dei dati scientifici presso l’organizzazione no profit per la difesa dei bambini Thorn. Le forze dell’ordine saranno ora più indietro nelle loro indagini a causa della necessità di determinare se i materiali sono reali o meno.

Avvio delle iscrizioni al corso Cyber Offensive Fundamentals Vuoi smettere di guardare tutorial e iniziare a capire davvero come funziona la sicurezza informatica? La base della sicurezza informatica, al di là di norme e tecnologie, ha sempre un unico obiettivo: fermare gli attacchi dei criminali informatici. Pertanto "Pensa come un attaccante, agisci come un difensore". Ti porteremo nel mondo dell'ethical hacking e del penetration test come nessuno ha mai fatto prima. Per informazioni potete accedere alla pagina del corso oppure contattarci tramite WhatsApp al numero 379 163 8765 oppure scrivendoci alla casella di posta [email protected]. Supporta Red Hot Cyber attraverso:  L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente “Byte The Silence”, il fumetto sul Cyberbullismo di Red Hot Cyber Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

I contenuti dannosi generati dall’intelligenza artificiale possono anche danneggiare nuovamente vittime reali le cui immagini del passato sono state utilizzate per addestrare modelli di intelligenza artificiale a creare immagini false.

Sia le forze dell’ordine che gli esperti di protezione dei minori riferiscono che le immagini generate in questo modo vengono sempre più spesso promosse su forum underground per pedofili, con molti utenti di Internet che vedono questo contenuto come un’alternativa al traffico di materiale pedopornografico illegale (CSAM).

Secondo ActiveFence, che sviluppa strumenti di fiducia e sicurezza per piattaforme online e siti di streaming, circa l’80% dei 3000 utenti che hanno partecipato ad sondaggio in un forum underground ha affermato di “aver utilizzato o saputo che altre persone hanno utilizzato strumenti di intelligenza artificiale per creare immagini di abusi sessuali su minori”.

Stability AI, la cui rete neurale è probabilmente utilizzata per generare tali contenuti, ha dichiarato al Washington Post che vieta la creazione di materiale osceno, collabora con le forze dell’ordine per trovare trasgressori e usa delle sue politiche per rimuove materiale esplicito dai suoi dati di addestramento per prevenire tentativi futuri di creare questo tipo di contenuto.

Tuttavia, il Washington Post ha abilmente ribattuto che tali meccanismi di protezione non sono perfetti, perché chiunque può scaricare Stable Diffusion sul proprio computer e usarlo come vuole. Eventuali filtri possono essere facilmente aggirati con la banale aggiunta di poche righe di codice, su cui sono già state scritte molte guide su Internet.

Mentre alcuni utenti che utilizzano l’intelligenza artificiale per generare immagini, e persino alcuni analisti legali, ritengono che tali contenuti non siano potenzialmente illegali perché i bambini reali non vengono danneggiati nel corso della loro produzione, alcuni funzionari del Dipartimento di giustizia degli Stati Uniti (DoJ) riferiscono che le immagini artificiali che sessualizzano i minori continuano a violare le leggi federali sulla protezione dei minori.

All’inizio di questo mese, l’FBI ha anche emesso un avviso secondo cui i criminali informatici possono creare contenuti sintetici (deepfake) basati su contenuti ordinari compresi bambini minorenni che con adulti.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La redazione di Red Hot Cyber è composta da professionisti del settore IT e della sicurezza informatica, affiancati da una rete di fonti qualificate che operano anche in forma riservata. Il team lavora quotidianamente nell’analisi, verifica e pubblicazione di notizie, approfondimenti e segnalazioni su cybersecurity, tecnologia e minacce digitali, con particolare attenzione all’accuratezza delle informazioni e alla tutela delle fonti. Le informazioni pubblicate derivano da attività di ricerca diretta, esperienza sul campo e contributi provenienti da contesti operativi nazionali e internazionali.