Le IA identificano l’etnia dalle scansioni a raggi X, ma i medici non comprendono il motivo.

Redazione RHC : 25 Agosto 2021 10:11

Un team internazionale di medici e scienziati ed informatici ha riferito che i sistemi di intelligenza artificiale addestrati per analizzare i raggi X, le scansioni TC, le mammografie e altre immagini mediche possono prevedere l’etnia di un paziente con un alto grado di accuratezza basandosi solo attraverso immagini.

I sistemi identificavano accuratamente l’etnia, anche quando le immagini analizzate erano distorte a tal punto che le caratteristiche anatomiche erano indistinguibili dall’occhio umano. Tuttavia, gli esperti avvertono che ciò può portare a pregiudizi e discriminazioni.

“Le IA possono riconoscere la razza di un individuo in modi molto banali. Se questi modelli iniziano a studiare queste proprietà, allora tutto ciò che facciamo dal punto di vista del razzismo sistemico entrerà naturalmente nell’algoritmo “

hanno spiegato gli scienziati.

Nel tentativo di chiarire la situazione, gli esperti hanno esaminato se le differenze biologiche influenzassero le previsioni sulle etnie. I ricercatori hanno esaminato le immagini stesse per vedere se i modelli di intelligenza artificiale hanno tenuto conto delle differenze di qualità o risoluzione, poiché le immagini dei pazienti neri avrebbero potuto essere ottenute da dispositivi di qualità inferiore. Nessuno dei loro esperimenti ha spiegato questo fenomeno.

Infatti, gli scienziati non sono riusciti a spiegare come i sistemi di intelligenza artificiale abbiano fatto previsioni così accurate.

Attualmente, la FDA approva solo dispositivi medici ospedalieri intelligenti che sono formati su un set di dati specifico e non cambiano o migliorano man mano che vengono elaborati più dati.

Tuttavia, anche gli algoritmi già approvati spesso non vengono testati su persone di razze diverse e non vengono testati su base continuativa.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.