Una AI fa arrestare un uomo innocente di colore nel New Jersey.

Redazione RHC : 2 Maggio 2021 07:25

Si tratta della terza persona nota per essere stata arrestata per un crimine che non ha mai commesso, sulla base di un errore di un algoritmo di riconoscimento facciale.

Le forze dell’ordine in tutti gli Stati Uniti D’America utilizzano il riconoscimento facciale per generare indizi sui sospetti, ma questo può avere un forte impatto negativo, qualora le persone identificate siano innocenti, se la tecnologia si sbaglia.

La polizia ha risposto alle denunce di furto in un Hampton Inn Hotel a Woodbridge, nel New Jersey. Il sospetto è scappato, colpendo una macchina della polizia e, secondo quanto affermato dalla polizia stessa, quasi investendo un agente.

Utilizzando una tecnologia di riconoscimento facciale all’avanguardia, la polizia ha rapidamente arrestato Nijeer Parks, un residente di Paterson di 31 anni.

All’epoca in cui il crimine veniva commesso, nel gennaio 2019, Parks si trovava a 30 miglia di distanza in una Western Union, e inviava denaro alla sua fidanzata.

La polizia, dopo una serie di indagini, ha ricostruito l’incidente e utilizzando una foto in suo possesso, attraverso algoritmi di intelligenza artificiale ha ottenuto una corrispondenza.

Sulla base di queste prove, un giudice ha firmato un mandato d’arresto per Parks.

“La cosa così notevole in questo caso non è che il riconoscimento facciale abbia sbagliato. È che l’abbiamo scoperto”

ha affermato Albert Fox Cahn, Direttore esecutivo del Surveillance Technology Oversight Project.

Parks è ora diventato il volto di un problema che ricercatori e sostenitori della privacy avvertono da anni: il riconoscimento facciale nelle mani delle forze dell’ordine.

“Quando parliamo del numero di scansioni di riconoscimento facciale che si svolgono negli Stati Uniti ogni giorno, non conosciamo nemmeno il numero completo”

ha detto Cahn.

“Puoi avere persone che vengono mandate in prigione ingiustamente che non sanno mai che il riconoscimento facciale ha avuto un ruolo nel loro arresto”.

Un rapporto federale del 2019 ha trovato prove diffuse di pregiudizi razziali in quasi 200 algoritmi di riconoscimento facciale che avevano molte più probabilità di identificare erroneamente le persone di colore rispetto ai bianchi.

“Se continui a mostrare a un modello un tipo di viso molto specifico, distinguerà volti diversi utilizzando caratteristiche molto specifiche, quindi finirà per concentrarsi sugli attributi di un viso che non distinguono realmente volti di una cultura diversa o di una pelle diversa, come nel caso di alcuni dei prodotti che abbiamo testato che hanno fornito risultati differenti su tipi di pelle più scuri”

ha detto il ricercatore Deb Raji.

Parks ha trascorso 10 notti in prigione.

Il suo caso non è stato ritirato fino a quasi un anno dopo.

Ora sta facendo causa alle persone coinvolte nel suo arresto.

“Il riconoscimento facciale è uno di quelle tecnologie, dove è pericoloso quando non funziona ed è pericoloso quando funziona. È ancora da collaudare con le persone di colore”.

ha detto Raji.

Ed è di questo che parlava la ricercatrice licenziata da Google Timnit Gebru e sull’etica degli algoritmi di intelligenza artificiale, argomento del quale abbiamo trattato molto sulle pagine di RHC.

Fonte

https://www.fox19.com/2021/04/29/false-facial-recognition-sends-innocent-new-jersey-man-jail/

Seguici su Google News, LinkedIn, Facebook e Instagram per ricevere aggiornamenti quotidiani sulla sicurezza informatica. Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli