Il Garante Privacy italiano dice Stop all’APP Replika

Stefano Gazzella : 8 Febbraio 2023 10:00

Il Garante Privacy ha annunciato di aver disposto in via d’urgenza una limitazione provvisoria ai trattamenti svolti dall’app Replika nei confronti degli utenti stabiliti nel territorio italiano. La considerazione svolta riguarda recenti notizie di stampa che hanno fornito evidenze e dettagli

“di alcune prove condotte sull’applicazione Replika (una chatbot, con interfaccia scritta e vocale, basata sull’intelligenza artificiale che genera un “amico virtuale” che l’utente può decidere di configurare come amico, partner romantico o mentore), prove che hanno evidenziato concreti rischi per i minori d’età e, più in generale, per le persone in stato di fragilità emotiva;”.

Eppure, facendo una semplice ricerca su Reddit le segnalazioni riguardanti molestie e pericoli sono risalenti almeno al 2019. Nel 2020 troviamo peraltro un interessante articolo sul Corriere a firma di Candida Morvillo, in cui erano stati segnalati alcuni trend allarmanti che probabilmente sono passati sotto traccia. Vox clamantis in deserto, probabilmente. E nel mentre il tempo è trascorso e l’app ha trovato un più diffuso impiego. Non solo: si è nutrita in modo più o meno sistematico di tutti i dati personali degli utilizzatori.

Sebbene intempestivo, l’intervento del Garante quanto meno ha voluto evidenziare alcune incongruenze fra privacy policy, termini e condizioni di servizio e modalità operative di svolgimento dei servizi in difetto di alcuna previsione di un filtro per i minori.

Insomma: non è sufficiente dichiarare di non raccogliere dati personali di minori di 13 anni, vietarne l’utilizzo e prevedere la supervisione di un genitore – similmente a quanto abbiamo segnalato per FakeYou – se poi non viene previsto un sistema di controllo o delle funzioni dedicate a rendere efficaci tali tutele. Se poi nella stessa registrazione account è richiesto solo nome, e-mail e genere come informazione obbligatoria, e non viene prevista nemmeno alcun tipo di “reazione” del sistema – quale il blocco o anche l’applicazione di filtri contenuti – di fronte a dichiarazioni della propria minore età, l’inefficacia è palese e al contempo allarmante.

Infatti nella privacy policy appare anche una raccolta di “Other profile information” con la finalità di personalizzare le conversazioni con Replika in cui si cita espressamente la data di nascita ma la misura di contrasto all’impiego da parte di minori di 13 anni sembra essere solo una segnalazione da parte dell’utente (“please contact us, and we will endeavor to delete thati information from our database”).

Ai rilievi svolti si è andato ad aggiungere anche il difetto di informativa da cui “deriva l’impossibilità di individuare la stessa base giuridica delle varie operazioni di trattamento effettuate dalla menzionata chatbot”, da cui l’esigenza di adottare il citato provvedimento. La particolare indifferibilità ed urgenza è dovuta dal voler evitare il rischio di “risposte assolutamente inidonee rispetto al grado di sviluppo e autoconsapevolezza” nei confronti dei minori, nonché di danneggiare o mettere in pericolo soggetti fragili, che sono destinatari ideali dell’app.

Per valutare l’efficacia di questo tipo di interventi occorre attendere tempo. Tempo che soggetti particolarmente vulnerabili non sempre hanno. E tempo che si andrebbe sensibilmente ad accorciare se noi tutti iniziassimo a segnalare queste iniziative pericolose dal punto di vista della privacy. Ma per questo, ci vuole cultura.

Stefano Gazzella
Privacy Officer e Data Protection Officer, specializzato in advisoring legale per la compliance dei processi in ambito ICT Law. Formatore e trainer per la data protection e la gestione della sicurezza delle informazioni nelle organizzazioni, pone attenzione alle tematiche relative all’ingegneria sociale. Giornalista pubblicista, fa divulgazione su temi collegati a diritti di quarta generazione, nuove tecnologie e sicurezza delle informazioni.