Conclamati i pregiudizi razziali nelle IA che generano immagini. I dataset devono essere regolamentati

Redazione RHC : 28 Dicembre 2023 08:32

Un nuovo studio dell’Australian National University (ANU) ha scoperto che i volti dei bianchi generati dall’intelligenza artificiale (AI) sembrano più realistici dei veri volti umani. La scoperta solleva interrogativi sui pregiudizi razziali e sui rischi di diffondere disinformazione nelle tecnologie di intelligenza artificiale.

Nello studio, un numero maggiore di partecipanti considerava i volti bianchi generati dall’intelligenza artificiale come persone reali, al contrario dei volti delle persone di colore. Secondo la dottoressa Amy Dowell, autrice senior dello studio, la ragione di ciò è che gli algoritmi di intelligenza artificiale sono addestrati in modo sproporzionato sui dati dei volti bianchi.

Questo “iperrealismo” dell’intelligenza artificiale potrebbe avere gravi conseguenze, soprattutto per le persone di colore, aumentando i pregiudizi razziali online. Il problema è già visibile nelle attuali tecnologie di intelligenza artificiale utilizzate per creare ritratti professionali, in cui l’intelligenza artificiale cambia il colore della pelle e degli occhi delle persone dalla pelle scura in quelli chiari.

Sponsorizza la prossima Red Hot Cyber Conference! Il giorno Lunedì 18 maggio e martedì 19 maggio 2026 9 maggio 2026, presso il teatro Italia di Roma (a due passi dalla stazione termini e dalla metro B di Piazza Bologna), si terrà la V edizione della la RHC Conference.  Si tratta dell’appuntamento annuale gratuito, creato dalla community di RHC, per far accrescere l’interesse verso le tecnologie digitali, l’innovazione digitale e la consapevolezza del rischio informatico.  Se sei interessato a sponsorizzare l'evento e a rendere la tua azienda protagonista del più grande evento della Cybersecurity Italiana, non perdere questa opportunità. E ricorda che assieme alla sponsorizzazione della conferenza, incluso nel prezzo, avrai un pacchetto di Branding sul sito di Red Hot Cyber composto da Banner più un numero di articoli che saranno ospitati all'interno del nostro portale.  Quindi cosa stai aspettando? Scrivici subito a [email protected] per maggiori informazioni e per accedere al programma sponsor e al media Kit di Red Hot Cyber. Supporta RHC attraverso: L'acquisto del fumetto sul Cybersecurity Awareness Ascoltando i nostri Podcast Seguendo RHC su WhatsApp Seguendo RHC su Telegram Scarica gratuitamente "Dark Mirror", il report sul ransomware di Dark Lab Se ti piacciono le novità e gli articoli riportati su di Red Hot Cyber, iscriviti immediatamente alla newsletter settimanale per non perdere nessun articolo. La newsletter generalmente viene inviata ai nostri lettori ad inizio settimana, indicativamente di lunedì.

I ricercatori hanno anche scoperto che le persone spesso non sono consapevoli di essere ingannate da individui generati dall’intelligenza artificiale. 

Le persone che credono che i volti generati siano reali sono spesso fiduciosi nei loro giudizi senza sapere che si sbagliano. Si scopre che ci sono differenze fisiche tra i volti generati dall’intelligenza artificiale e i volti umani reali, ma le persone li interpretano erroneamente. Ad esempio, i volti bianchi dell’intelligenza artificiale sono spesso più proporzionati, il che viene percepito come un segno di umanità.

I ricercatori avvertono che questa tendenza potrebbe contribuire alla diffusione della disinformazione e del furto di identità. Chiedono una maggiore trasparenza nelle tecnologie di intelligenza artificiale in modo che i ricercatori e il pubblico possano identificare tempestivamente i problemi. Anche una maggiore consapevolezza pubblica può svolgere un ruolo importante, poiché le persone non sono più in grado di riconoscere i volti generati dall’intelligenza artificiale. Educare le persone a riconoscere il realismo dei volti dell’intelligenza artificiale potrebbe aiutare la società a pensare in modo critico alle immagini che vedono online.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli