Red Hot Cyber
Condividi la tua difesa. Incoraggia l'eccellenza. La vera forza della cybersecurity risiede nell'effetto moltiplicatore della conoscenza.
Redazione RHC : 11 Agosto 2021 00:08
Nel maggio di quest’anno, Twitter ha annunciato la fine del suo algoritmo di ritaglio automatico basato sull’intelligenza artificiale, che, a quanto pare, favoriva i volti bianchi e femminili.
La società ha recentemente lanciato anche un programma insolito per premiare i ricercatori che hanno scoperto “pregiudizi algoritmici” sulla piattaforma.
Il programma funziona secondo lo stesso principio del bug bounty per trovare le vulnerabilità.
Il nuovo programma ha rivelato che lo stesso algoritmo, progettato per identificare gli elementi più importanti nelle immagini durante il ritaglio, discrimina le persone nelle fotografie per età e peso e preferisce i testi in inglese e in altre lingue europee.
Bogdan Kulinich, uno studente laureato presso il Politecnico federale di Losanna, in Svizzera, ha scoperto che l’algoritmo di Twitter per il ritaglio automatico delle foto favorisce i giovani snelli.
Durante lo studio, utilizzando tecnologie deepfake, il ricercatore ha generato automaticamente vari volti e testato l’algoritmo per ritagliare le immagini su di essi.
La scoperta di Kulinich è stata confermata anche dal ricercatore senior della BNH Patrick Hall.
“In generale, più una fotografia è snella, giovane e femminile, più è probabile che venga approvata”
ha detto Hall.
Secondo la ricercatrice di sicurezza OpenAI Arielle Herbert-Voss, i pregiudizi trovati nell’algoritmo riflettono i pregiudizi delle persone che forniscono dati per addestrare un modello di intelligenza artificiale.
Nel settembre 2020, uno studente canadese ha attirato l’attenzione sul modo in cui l’algoritmo di Twitter stava ritagliando le foto.
In teoria, l’algoritmo dovrebbe lasciare nella foto i volti di persone, testi e animali. Tuttavia, come si è scoperto, nelle fotografie in cui sono state raffigurate diverse persone, ha preferito i volti caucasici e femminili, tagliando il resto. Si scoprì presto che l’algoritmo mostrava pregiudizi di genere e razziali.
Seguici su Google News, LinkedIn, Facebook e Instagram per ricevere aggiornamenti quotidiani sulla sicurezza informatica. Scrivici se desideri segnalarci notizie, approfondimenti o contributi da pubblicare.
RedazioneShannon opera come un penetration tester che non si limita a segnalare vulnerabilità, ma lancia veri e propri exploit. L’intento di Shannon è quello di violare la sicurezza della tua applicazione ...
Salve ragazzi,mi chiamo Giorgio, ho 58 anni, lavoro da sempre come tecnico amministrativo e, nella vita, sono sempre stato quello “razionale” della famiglia. Quello che controlla i conti, che non ...
I servizi di Windows dedicati alle connessioni remote hanno da sempre rappresentato una fonte inesauribile di “soddisfazioni” per chi si occupa di sicurezza informatica, rivelando vulnerabilità d...
La scena è sempre quella: monitor accesi, dashboard piene di alert, log che scorrono troppo in fretta, un cliente in ansia dall’altra parte della call. Ti siedi, ti guardi intorno e ti rendi conto ...
Un noto broker di accesso iniziale (IAB) denominato “Storm-0249“, ha modificato le proprie strategie operative, utilizzando campagne di phishing ma anche attacchi altamente mirati, i quali sfrutta...
