Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Un recente studio rivela che in appena 11 giorni di elaborazione, Grok ha prodotto all’incirca 3 milioni di immagini dal contenuto sessuale. Notevole inquietudine suscita il dato relativo a circa 23.000 immagini che raffigurano minori. L’indagine, realizzata dal CCDH, ha preso in considerazione un campione casuale di 20.000 immagini, estratte da un totale di 4,6 milioni di immagini prodotte dallo strumento nel corso del periodo esaminato.
La vicenda prende in esame il sistema di intelligenza artificiale sviluppato da Elon Musk, il quale ha subito un’ulteriore evoluzione. Precedentemente, era stato segnalato che tale strumento aveva provocato la diffusione massiccia di fotografie in bikini sulla piattaforma X, coinvolgendo sia celebrità che utenti ordinari, e generando un’ondata di sdegno. Adesso, sono stati resi noti dati più precisi circa l’entità del problema, e i numeri risultano essere più allarmanti rispetto a quanto supposto inizialmente.
La popolarità esplosiva della funzionalità è iniziata il 29 dicembre, quando Elon Musk ha annunciato la possibilità di modificare qualsiasi immagine sulla piattaforma con un solo clic. Gli utenti X hanno ottenuto l’accesso a uno strumento che permetteva loro di modificare le foto di altre persone senza il consenso delle persone ritratte. Nel giro di pochi giorni, è diventato chiaro che la maggior parte delle persone utilizzava la nuova funzionalità per creare contenuti espliciti.
Le statistiche di utilizzo di Grok sono state scioccanti: in media, lo strumento generava 190 immagini a sfondo sessuale al minuto. Tra le immagini create c’erano fotografie di personaggi pubblici, tra cui Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Nicki Minaj, Millie Bobby Brown, il vice primo ministro svedese Ebba Bush e l’ex vicepresidente degli Stati Uniti Kamala Harris. Lo strumento creava immagini di persone in costumi da bagno trasparenti, con fluidi corporei visibili e in altre situazioni esplicite.
Una situazione estremamente preoccupante ha riguardato le immagini di minori, come è stato recentemente scoperto. Le foto scolastiche ordinarie di alcune studentesse sono state alterate in modo da ritrarle indossando bikini, come hanno documentato gli esperti in alcuni casi specifici.
In media, Grok creava un’immagine sessualizzata di un bambino ogni 41 secondi. Oltre alle immagini fotorealistiche, lo strumento generava anche circa 9.900 immagini di bambini in stile cartoon, per lo più in stile anime.
Per la loro analisi, gli autori del rapporto hanno utilizzato l’intelligenza artificiale GPT-4.1-mini di OpenAI, che ha valutato le immagini in base al fotorealismo, ai contenuti sessualizzati e all’età delle persone raffigurate. L’accuratezza del modello è stata del 95% sulla scala F1. Tutte le immagini di bambini sono state inoltre verificate manualmente per confermare che i soggetti fossero chiaramente minorenni. Il team di ricerca ha preso precauzioni per evitare l’accesso a materiale relativo ad abusi sessuali su minori.
La reazione della piattaforma allo scandalo è risultata essere lenta. Soltanto il 9 gennaio, undici giorni dopo il suo lancio attivo, la funzionalità di modifica è stata resa disponibile, seppur con limitazioni, agli utenti che avevano sottoscritto il servizio a pagamento.
Ulteriori misure tecniche restrittive sono state applicate il 14 gennaio, al fine di limitare la possibilità di “svestire” le immagini delle persone. Nonostante ciò, entro il 15 gennaio, il 29% delle immagini a sfondo sessuale di bambini presenti nel campione esaminato continuava ad essere accessibile al pubblico tramite la piattaforma. Persino nei casi in cui i post sono stati rimossi, le immagini sono rimaste raggiungibili attraverso link diretti.
Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
Innovazione
Cybercrime
Vulnerabilità
Innovazione
Cyber Italia