Le IA identificano l’etnia dalle scansioni a raggi X, ma i medici non comprendono il motivo.

Un team internazionale di medici e scienziati ed informatici ha riferito che i sistemi di intelligenza artificiale addestrati per analizzare i raggi X, le scansioni TC, le mammografie e altre immagini mediche possono prevedere l’etnia di un paziente con un alto grado di accuratezza basandosi solo attraverso immagini.

I sistemi identificavano accuratamente l’etnia, anche quando le immagini analizzate erano distorte a tal punto che le caratteristiche anatomiche erano indistinguibili dall’occhio umano. Tuttavia, gli esperti avvertono che ciò può portare a pregiudizi e discriminazioni.

“Le IA possono riconoscere la razza di un individuo in modi molto banali. Se questi modelli iniziano a studiare queste proprietà, allora tutto ciò che facciamo dal punto di vista del razzismo sistemico entrerà naturalmente nell’algoritmo “

hanno spiegato gli scienziati.

Nel tentativo di chiarire la situazione, gli esperti hanno esaminato se le differenze biologiche influenzassero le previsioni sulle etnie. I ricercatori hanno esaminato le immagini stesse per vedere se i modelli di intelligenza artificiale hanno tenuto conto delle differenze di qualità o risoluzione, poiché le immagini dei pazienti neri avrebbero potuto essere ottenute da dispositivi di qualità inferiore. Nessuno dei loro esperimenti ha spiegato questo fenomeno.

Infatti, gli scienziati non sono riusciti a spiegare come i sistemi di intelligenza artificiale abbiano fatto previsioni così accurate.

Attualmente, la FDA approva solo dispositivi medici ospedalieri intelligenti che sono formati su un set di dati specifico e non cambiano o migliorano man mano che vengono elaborati più dati.

Tuttavia, anche gli algoritmi già approvati spesso non vengono testati su persone di razze diverse e non vengono testati su base continuativa.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.