Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime e Analisi Vulnerabilità
Un team internazionale di medici e scienziati ed informatici ha riferito che i sistemi di intelligenza artificiale addestrati per analizzare i raggi X, le scansioni TC, le mammografie e altre immagini mediche possono prevedere l’etnia di un paziente con un alto grado di accuratezza basandosi solo attraverso immagini.
I sistemi identificavano accuratamente l’etnia, anche quando le immagini analizzate erano distorte a tal punto che le caratteristiche anatomiche erano indistinguibili dall’occhio umano. Tuttavia, gli esperti avvertono che ciò può portare a pregiudizi e discriminazioni.
“Le IA possono riconoscere la razza di un individuo in modi molto banali. Se questi modelli iniziano a studiare queste proprietà, allora tutto ciò che facciamo dal punto di vista del razzismo sistemico entrerà naturalmente nell’algoritmo “
hanno spiegato gli scienziati.
Nel tentativo di chiarire la situazione, gli esperti hanno esaminato se le differenze biologiche influenzassero le previsioni sulle etnie. I ricercatori hanno esaminato le immagini stesse per vedere se i modelli di intelligenza artificiale hanno tenuto conto delle differenze di qualità o risoluzione, poiché le immagini dei pazienti neri avrebbero potuto essere ottenute da dispositivi di qualità inferiore. Nessuno dei loro esperimenti ha spiegato questo fenomeno.
Infatti, gli scienziati non sono riusciti a spiegare come i sistemi di intelligenza artificiale abbiano fatto previsioni così accurate.
Attualmente, la FDA approva solo dispositivi medici ospedalieri intelligenti che sono formati su un set di dati specifico e non cambiano o migliorano man mano che vengono elaborati più dati.
Tuttavia, anche gli algoritmi già approvati spesso non vengono testati su persone di razze diverse e non vengono testati su base continuativa.
