I limiti delle IA e i problemi di genere. Arrestata per errore una donna incinta per furto d’auto. Tutti gli altri 5 erano neri

Portia Woodruff, incinta di otto mesi, è stata arrestata proprio fuori casa sua a Detroit con l’accusa di rapina e furto d’auto. L’arresto è stato il risultato di una mancata corrispondenza in un sistema di riconoscimento facciale automatico.

Dopo 11 ore di detenzione, durante le quali la donna è stata interrogata su un crimine che non ha mai commesso, Woodruff è stata rilasciata con l’obbligo personale di pagare 100.000 dollari. Il procuratore della contea di Wayne ha successivamente ritirato le accuse contro Woodruff.

Secondo la polizia di Detroit, la base per l’arresto era il riconoscimento facciale automatico. La Woodruff è diventata la sesta persona ad essere accusata in modo errato dalla tecnologia AI, e tutti e sei erano neri.

Foto di Woodruff nel 2015 estratta dal database del sistema di riconoscimento facciale (a sinistra) e foto reale di Woodruff nel 2021 (a destra)

L’incidente ha ovviamente suscitato preoccupazione nell’opinione pubblica e nella sicurezza.

Gary Wells, professore di psicologia, ha sottolineato che la combinazione della tecnologia di riconoscimento facciale con il riconoscimento dei testimoni non dovrebbe servire come base per le accuse.

In risposta, la Woodruff ha intentato una causa per arresto illegale contro la città di Detroit. La donna ha espresso la speranza che il suo caso attiri l’attenzione sui problemi associati all’uso della tecnologia di riconoscimento facciale e prevenga errori simili in futuro.

Woodruff ha anche rivelato di essere stata sotto stress durante la gravidanza. Secondo la donna, la sua gravidanza tardiva potrebbe aver convinto le autorità che non ha commesso il crimine.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.