Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Redazione RHC : 2 Maggio 2021 07:25
Si tratta della terza persona nota per essere stata arrestata per un crimine che non ha mai commesso, sulla base di un errore di un algoritmo di riconoscimento facciale.
Le forze dell’ordine in tutti gli Stati Uniti D’America utilizzano il riconoscimento facciale per generare indizi sui sospetti, ma questo può avere un forte impatto negativo, qualora le persone identificate siano innocenti, se la tecnologia si sbaglia.
La polizia ha risposto alle denunce di furto in un Hampton Inn Hotel a Woodbridge, nel New Jersey. Il sospetto è scappato, colpendo una macchina della polizia e, secondo quanto affermato dalla polizia stessa, quasi investendo un agente.
Utilizzando una tecnologia di riconoscimento facciale all’avanguardia, la polizia ha rapidamente arrestato Nijeer Parks, un residente di Paterson di 31 anni.
All’epoca in cui il crimine veniva commesso, nel gennaio 2019, Parks si trovava a 30 miglia di distanza in una Western Union, e inviava denaro alla sua fidanzata.
La polizia, dopo una serie di indagini, ha ricostruito l’incidente e utilizzando una foto in suo possesso, attraverso algoritmi di intelligenza artificiale ha ottenuto una corrispondenza.
Sulla base di queste prove, un giudice ha firmato un mandato d’arresto per Parks.
“La cosa così notevole in questo caso non è che il riconoscimento facciale abbia sbagliato. È che l’abbiamo scoperto”
ha affermato Albert Fox Cahn, Direttore esecutivo del Surveillance Technology Oversight Project.
Parks è ora diventato il volto di un problema che ricercatori e sostenitori della privacy avvertono da anni: il riconoscimento facciale nelle mani delle forze dell’ordine.
“Quando parliamo del numero di scansioni di riconoscimento facciale che si svolgono negli Stati Uniti ogni giorno, non conosciamo nemmeno il numero completo”
ha detto Cahn.
“Puoi avere persone che vengono mandate in prigione ingiustamente che non sanno mai che il riconoscimento facciale ha avuto un ruolo nel loro arresto”.
Un rapporto federale del 2019 ha trovato prove diffuse di pregiudizi razziali in quasi 200 algoritmi di riconoscimento facciale che avevano molte più probabilità di identificare erroneamente le persone di colore rispetto ai bianchi.
“Se continui a mostrare a un modello un tipo di viso molto specifico, distinguerà volti diversi utilizzando caratteristiche molto specifiche, quindi finirà per concentrarsi sugli attributi di un viso che non distinguono realmente volti di una cultura diversa o di una pelle diversa, come nel caso di alcuni dei prodotti che abbiamo testato che hanno fornito risultati differenti su tipi di pelle più scuri”
ha detto il ricercatore Deb Raji.
Parks ha trascorso 10 notti in prigione.
Il suo caso non è stato ritirato fino a quasi un anno dopo.
Ora sta facendo causa alle persone coinvolte nel suo arresto.
“Il riconoscimento facciale è uno di quelle tecnologie, dove è pericoloso quando non funziona ed è pericoloso quando funziona. È ancora da collaudare con le persone di colore”.
ha detto Raji.
Ed è di questo che parlava la ricercatrice licenziata da Google Timnit Gebru e sull’etica degli algoritmi di intelligenza artificiale, argomento del quale abbiamo trattato molto sulle pagine di RHC.
Fonte
https://www.fox19.com/2021/04/29/false-facial-recognition-sends-innocent-new-jersey-man-jail/
RedazioneDietro molte delle applicazioni e servizi digitali che diamo per scontati ogni giorno si cela un gigante silenzioso: FreeBSD. Conosciuto soprattutto dagli addetti ai lavori, questo sistema operativo U...
Molto spesso parliamo su questo sito del fatto che la finestra tra la pubblicazione di un exploit e l’avvio di attacchi attivi si sta riducendo drasticamente. Per questo motivo diventa sempre più f...
Dal 1° luglio, Cloudflare ha bloccato 416 miliardi di richieste da parte di bot di intelligenza artificiale che tentavano di estrarre contenuti dai siti web dei suoi clienti. Secondo Matthew Prince, ...
Nel 2025, le comunità IT e della sicurezza sono in fermento per un solo nome: “React2Shell“. Con la divulgazione di una nuova vulnerabilità, CVE-2025-55182, classificata CVSS 10.0, sviluppatori ...
Cloudflare torna sotto i riflettori dopo una nuova ondata di disservizi che, nella giornata del 5 dicembre 2025, sta colpendo diversi componenti della piattaforma. Oltre ai problemi al Dashboard e all...
