Red Hot Cyber

Sicurezza informatica, cybercrime, hack
news, e altro ancora
  • English

Una persona ha trovato le sue foto mediche nei dataset di addestramento delle AI

Alla fine della scorsa settimana, un’artista californiana con lo pseudonimo di Lapine ha scoperto le sue fotografie mediche nel popolare archivio fotografico LAION-5B, progettato per addestrare l’intelligenza artificiale.

Allo stesso tempo, la ragazza afferma di non aver dato il consenso alla pubblicazione.

Lapine ha trovato le foto su un sito chiamato Have I Been Trained, che consente agli artisti di vedere se il loro lavoro è nel dataset LAION-5B. Invece di eseguire una ricerca di testo sul sito, la ragazza ha caricato una foto recente di se stessa utilizzando la funzione di ricerca inversa delle immagini.

Di conseguenza, l’artista ha scoperto che le sue fotografie mediche erano nel database.

Advertisements

Lapina ha una malattia genetica chiamata discheratosi congenita, che colpisce la pelle, le ossa, i denti e provoca la cheratinizzazione delle mucose.

Nel 2013 Lapine è stata sottoposta a complesse procedure per ripristinare i contorni del viso dopo numerosi interventi alla mascella e al cavo orale. Il chirurgo che ha eseguito le procedure ha poi chiesto alla ragazza di permetterle di scattare fotografie prima e dopo le procedure.

Nel 2018 il chirurgo è morto di cancro. La ragazza crede che dopo la morte del dottore qualcuno abbia avuto accesso alle sue fotografie e le abbia pubblicate, per poi finire nel database.

Lapine non voleva rivelare pubblicamente la sua identità, ma con l’aiuto di documenti e fotografie forniti dalla ragazza, i giornalisti di Ars Technica hanno confermato che le sue immagini mediche erano nel set di dati LAION.

Advertisements

Inoltre, durante la ricerca, hanno trovato migliaia di altre fotografie mediche nel database, la cui pubblicazione potrebbe violare gli standard etici e legali, e che le aziende utilizzano per la formazione sull’IA e non ne sono a conoscenza.