Quando le IA sbagliano. Il caso di Michael Williams.

L’intelligenza artificiale può alimentare veicoli autonomi o contribuire a creare piattaforme informatiche più sicure. Tuttavia, in alcuni casi, una persona innocente può andare in prigione a causa di prove discutibili basate sui dati dell’IA. Questo è esattamente quello che è successo al 65enne Michael Williams quando è stato arrestato lo scorso agosto con l’accusa di aver ucciso un giovane, secondo quanto riportato dall’Associated Press.

Nel 2018, la città di Chicago ha firmato un contratto da 33 milioni di dollari con ShotSpotter per installare una rete di sorveglianza che utilizza uno speciale algoritmo basato sull’intelligenza artificiale per identificare e triangolare le riprese. È a causa di questa tecnologia che Williams si è messo nei guai domenica sera, 31 maggio 2020.

In tarda serata, Williams ha preso la decisione di acquistare sigarette da una stazione di servizio locale, ma all’arrivo ha scoperto che il negozio era stato saccheggiato durante dei disordini. Poi ha deciso di tornare a casa quando ha visto il 25enne Safarian Herring lungo la strada, che gli ha fatto cenno di andare a fare una passeggiata.

Presto un’auto si fermò accanto a loro a un incrocio. Un passeggero non identificato nell’auto ha cercato di sparare a Williams, ma lo ha mancato e ha colpito Herring. Il 2 giugno 2020, Herring è morto all’ospedale Saint Bernard.

Tre mesi dopo, la polizia arrivò a Williams. È stato interrogato e posto in un centro di custodia cautelare con l’accusa di omicidio di primo grado. I dati della videosorveglianza ShotSpotter sono diventati la prova del crimine. Quella notte, i sensori di ShotSpotter hanno rilevato un forte rumore e hanno avvisato la polizia. Questa “prova” è stata utilizzata per rafforzare la teoria dell’accusa secondo cui Williams ha sparato a Herring nella sua auto, sebbene l’indagine non abbia rivelato alcun movente, testimone oculare o l’arma del delitto.

Successivamente è stato rivelato che il sistema ShotSpotter ha inizialmente identificato il rumore come un’esplosione di fuochi d’artificio con una probabilità del 98%. Tuttavia, un dipendente dell’azienda, dopo aver ascoltato il file audio, ha contrassegnato il rumore come uno sparo. Inoltre, durante la post-elaborazione, l’algoritmo ha modificato la posizione della sorgente del rumore.

Williams è stato imprigionato per circa 11 mesi, dove ha contratto due volte l’infezione da coronavirus (COVID-19) e ha sviluppato tremori incontrollati.

Dopo questo lungo soggiorno lontano da casa, Williams è entrato in aula, dove il giudice Vincent Gaughan ha archiviato il caso per mancanza di prove. Così, Williams è stato finalmente in grado di uscire dalla prigione della contea di Cook la sera del 23 luglio come uomo libero.

Ti è piaciuto questo articolo? Ne stiamo discutendo nella nostra Community su LinkedIn, Facebook e Instagram. Seguici anche su Google News, per ricevere aggiornamenti quotidiani sulla sicurezza informatica o Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.