Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Una coalizione di 28 organizzazioni per i diritti digitali guidata da UltraViolet ha inviato lettere ai CEO di Apple e Google, Tim Cook e Sundar Pichai, chiedendo loro di rimuovere l’app X e il chatbot basato sull’intelligenza artificiale Grok dagli app store.
Una campagna chiamata “Get Grok Gone” accusa entrambe le aziende di trarre profitto dalla distribuzione di immagini intime non consensuali (NCII) e materiale pedopornografico (CSAM) generato da Grok sulla piattaforma X di Elon Musk. Secondo gli attivisti per i diritti umani, ospitare queste app viola le policy di Apple e Google, che vietano di facilitare la distribuzione di contenuti offensivi o di trarne profitto.
“Allo stato attuale, Apple non solo facilita la diffusione di NCII e CSAM, ma ne trae anche profitto“, si legge nella lettera aperta a Cook. “Come coalizione di organizzazioni impegnate per la sicurezza online e il benessere di tutte le persone, in particolare donne e bambini, e per l’uso etico dell’intelligenza artificiale, chiediamo ad Apple di rimuovere immediatamente Grok e X dall’App Store per prevenire ulteriori abusi e attività criminali“.
La richiesta arriva in un momento di crescente pressione normativa. L’autorità di regolamentazione britannica Ofcom ha dichiarato che continuerà la sua indagine formale su X, nonostante i recenti tentativi della piattaforma di Musk di porre rimedio alla situazione. L’indagine, avviata ai sensi dell’Online Safety Act del Regno Unito, sta valutando se l’utilizzo della piattaforma da parte di Grok per creare e distribuire immagini intime e potenzialmente illegali abbia violato gli obblighi legali di X di proteggere gli utenti del Regno Unito.
All’inizio di gennaio è scoppiato uno scandalo quando è stato rivelato che Grok, un chatbot basato su xAI integrato in X, poteva essere manipolato per creare modifiche sessualmente esplicite di persone reali basate su foto caricate. Una volta diffusa la notizia, la funzionalità ha iniziato a essere ampiamente utilizzata in modo improprio: ricercatori e giornalisti hanno documentato un’ondata di contenuti a sfondo sessuale, alcuni dei quali sembravano raffigurare minorenni.
La risposta iniziale di X è stata quella di limitare l’accesso alle funzionalità di editing delle immagini di Grok agli abbonati a pagamento. In seguito, la piattaforma ha rafforzato i controlli, introducendo il geoblocking per alcune manipolazioni di immagini nei paesi in cui sono illegali e annunciando che Grok non avrebbe più creato modifiche a sfondo sessuale di persone reali.
Tuttavia, per gli autori delle lettere “Get Grok Gone”, queste misure non sono sufficienti. Sostengono che Apple e Google continuino a facilitare la diffusione di contenuti dannosi ospitando app che lo consentono. Secondo gli attivisti per i diritti umani, ciò pone entrambe le aziende in una posizione precaria rispetto alle policy dei rispettivi app store, che vietano le app che facilitano attività criminali o distribuiscono materiale a sfondo sessuale.
Resta da vedere se Cupertino e Mountain View risponderanno a queste richieste, ma la campagna sta aumentando la pressione in un dibattito già teso sulla sicurezza dell’intelligenza artificiale, sulla libertà di parola e sui limiti della responsabilità della piattaforma.
