Microsoft bandisce l’uso della sua tecnologia per il riconoscimento facciale da parte della polizia

Redazione RHC : 4 Maggio 2024 16:07

Microsoft ha inasprito le regole per l’utilizzo del suo servizio Azure OpenAI, vietando ai dipartimenti di polizia statunitensi di utilizzare l’intelligenza artificiale generativa per il riconoscimento facciale.

Le modifiche ai termini di servizio di mercoledì ora vietano esplicitamente l’uso del servizio Azure OpenAI per il riconoscimento facciale da parte della polizia, inclusa l’integrazione con i modelli di analisi delle immagini attuali e possibilmente futuri di OpenAI.

La nuova condizione si applica anche alla polizia di tutto il mondo, vietando specificamente l’uso della tecnologia di riconoscimento facciale in tempo reale sulle telecamere mobili, come le body camera o sui cruscotti delle auto, per identificare le persone in condizioni non monitorate.

Il cambiamento arriva una settimana dopo che Axon, produttore di tecnologia e strumenti militari per le forze dell’ordine, ha annunciato un nuovo prodotto. I critici hanno sottolineato potenziali problemi come modelli che generano informazioni fuorvianti e pregiudizi razziali nei dati di formazione, il che è particolarmente preoccupante data la maggiore probabilità che i neri vengano fermati dalla polizia rispetto ai bianchi.

Non è chiaro se Axon utilizzasse GPT-4 tramite il servizio Azure OpenAI o se le modifiche ai termini del servizio fossero in risposta al lancio del prodotto Axon. OpenAI ha precedentemente limitato l’uso dei suoi modelli per il riconoscimento facciale attraverso le sue API.

Le nuove condizioni lasciano a Microsoft un certo margine di manovra.

Il divieto generale di utilizzo del servizio Azure OpenAI si applica solo alla polizia statunitense e non si applica al riconoscimento facciale tramite telecamere fisse in ambienti controllati, come un ufficio, sebbene i termini vietino qualsiasi utilizzo della tecnologia di riconoscimento facciale da parte della polizia statunitense.

Ciò è coerente con il recente approccio di Microsoft e del suo stretto partner OpenAI nei confronti delle forze dell’ordine e dei contratti di difesa legati all’intelligenza artificiale.

OpenAI stava lavorando con il Pentagono su una serie di progetti, comprese le capacità di sicurezza informatica, un allontanamento dalla politica iniziale della startup di non fornire la propria intelligenza artificiale ai militari.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.