Twitter istituisce un bug bounty sui pregiudizi delle IA.

Redazione RHC : 11 Agosto 2021 00:08

Nel maggio di quest’anno, Twitter ha annunciato la fine del suo algoritmo di ritaglio automatico basato sull’intelligenza artificiale, che, a quanto pare, favoriva i volti bianchi e femminili.

La società ha recentemente lanciato anche un programma insolito per premiare i ricercatori che hanno scoperto “pregiudizi algoritmici” sulla piattaforma.

Il programma funziona secondo lo stesso principio del bug bounty per trovare le vulnerabilità.

Il nuovo programma ha rivelato che lo stesso algoritmo, progettato per identificare gli elementi più importanti nelle immagini durante il ritaglio, discrimina le persone nelle fotografie per età e peso e preferisce i testi in inglese e in altre lingue europee.

Bogdan Kulinich, uno studente laureato presso il Politecnico federale di Losanna, in Svizzera, ha scoperto che l’algoritmo di Twitter per il ritaglio automatico delle foto favorisce i giovani snelli.

Durante lo studio, utilizzando tecnologie deepfake, il ricercatore ha generato automaticamente vari volti e testato l’algoritmo per ritagliare le immagini su di essi.

La scoperta di Kulinich è stata confermata anche dal ricercatore senior della BNH Patrick Hall.

“In generale, più una fotografia è snella, giovane e femminile, più è probabile che venga approvata”

ha detto Hall.

Secondo la ricercatrice di sicurezza OpenAI Arielle Herbert-Voss, i pregiudizi trovati nell’algoritmo riflettono i pregiudizi delle persone che forniscono dati per addestrare un modello di intelligenza artificiale.

Nel settembre 2020, uno studente canadese ha attirato l’attenzione sul modo in cui l’algoritmo di Twitter stava ritagliando le foto.

In teoria, l’algoritmo dovrebbe lasciare nella foto i volti di persone, testi e animali. Tuttavia, come si è scoperto, nelle fotografie in cui sono state raffigurate diverse persone, ha preferito i volti caucasici e femminili, tagliando il resto. Si scoprì presto che l’algoritmo mostrava pregiudizi di genere e razziali.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.