Una persona ha trovato le sue foto mediche nei dataset di addestramento delle AI

Alla fine della scorsa settimana, un’artista californiana con lo pseudonimo di Lapine ha scoperto le sue fotografie mediche nel popolare archivio fotografico LAION-5B, progettato per addestrare l’intelligenza artificiale.

Allo stesso tempo, la ragazza afferma di non aver dato il consenso alla pubblicazione.

Lapine ha trovato le foto su un sito chiamato Have I Been Trained, che consente agli artisti di vedere se il loro lavoro è nel dataset LAION-5B. Invece di eseguire una ricerca di testo sul sito, la ragazza ha caricato una foto recente di se stessa utilizzando la funzione di ricerca inversa delle immagini.

Di conseguenza, l’artista ha scoperto che le sue fotografie mediche erano nel database.

Lapina ha una malattia genetica chiamata discheratosi congenita, che colpisce la pelle, le ossa, i denti e provoca la cheratinizzazione delle mucose.

Nel 2013 Lapine è stata sottoposta a complesse procedure per ripristinare i contorni del viso dopo numerosi interventi alla mascella e al cavo orale. Il chirurgo che ha eseguito le procedure ha poi chiesto alla ragazza di permetterle di scattare fotografie prima e dopo le procedure.

Nel 2018 il chirurgo è morto di cancro. La ragazza crede che dopo la morte del dottore qualcuno abbia avuto accesso alle sue fotografie e le abbia pubblicate, per poi finire nel database.

Lapine non voleva rivelare pubblicamente la sua identità, ma con l’aiuto di documenti e fotografie forniti dalla ragazza, i giornalisti di Ars Technica hanno confermato che le sue immagini mediche erano nel set di dati LAION.

Inoltre, durante la ricerca, hanno trovato migliaia di altre fotografie mediche nel database, la cui pubblicazione potrebbe violare gli standard etici e legali, e che le aziende utilizzano per la formazione sull’IA e non ne sono a conoscenza.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.