Il lato oscuro delle IA: gli studenti usano le IA per creare immagini oscene dei loro compagni

Gli scolari del Regno Unito utilizzano l’intelligenza artificiale (AI) per creare immagini indecenti dei loro coetanei, sollevando allarme tra gli esperti di protezione dell’infanzia e di tecnologia. Gli esperti segnalano un numero crescente di casi di studenti che utilizzano l’intelligenza artificiale per generare immagini legalmente riconosciute come materiale di abuso sessuale infantile (CSAM).

Il Safer Internet Centre del Regno Unito (UKSIC) e la Internet Watch Foundation (IWF) hanno sottolineato che la qualità delle immagini generate è così elevata da essere paragonabili alle fotografie professionali. I funzionari dell’agenzia hanno espresso preoccupazione per il fotorealismo delle immagini, sottolineando che alcune di esse potrebbero essere identificate come raffiguranti vittime di violenza sessuale.

Di particolare preoccupazione è la possibilità che tali immagini vengano distribuite online, rendendole accessibili a estranei e predatori sessuali. L’UKSIC chiede consapevolezza sul potenziale uso improprio della tecnologia di generazione di immagini.

L’UKSIC, l’autorità di vigilanza sulla protezione dei minori, chiede alle scuole di intensificare urgentemente le misure per bloccare il materiale CSAM. L’UKSIC sottolinea l’importanza di anticipare l’uso dannoso delle nuove tecnologie come i generatori di immagini basati sull’intelligenza artificiale, soprattutto perché i bambini potrebbero non essere consapevoli del danno che possono causare.

Nel Regno Unito è illegale creare, possedere e distribuire immagini di sfruttamento sessuale minorile, comprese quelle generate dall’intelligenza artificiale. La regola vale anche per le immagini da cartone animato o meno realistiche.

Il mese scorso la Internet Watch Foundation ha avvertito che le immagini di sfruttamento sessuale minorile generate dall’intelligenza artificiale potrebbero travolgere Internet. Molte immagini sono così realistiche che è difficile anche per gli analisti possano distinguerle dalla realtà. La situazione evidenzia la gravità del problema e la necessità di un’azione immediata per risolverlo.

In precedenza, la National Crime Agency (NCA) della Gran Bretagna aveva messo in guardia dalla diffusione di immagini CSAM generate. Questa tendenza normalizza la pedofilia e i comportamenti inaccettabili nei confronti dei bambini. L’agenzia stima che circa 830.000 adulti, ovvero l’1,6% della popolazione adulta del Regno Unito, rappresentano un rischio sessuale per i bambini. Questo numero è 10 volte il totale della popolazione che sconta pene nelle carceri del paese.

Inoltre, gli esperti di protezione dell’infanzia affermano di non poter combattere le migliaia di “immagini di abusi sessuali su minori generate dall’intelligenza artificiale” che vengono create e condivise facilmente e rapidamente sui forum oscuri di pedofilia.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.