Red Hot Cyber

La cybersecurity è condivisione.
Riconosci il rischio, combattilo, condividi le tue esperienze ed 
incentiva gli altri a fare meglio di te.

Cerca

Conosci lo YOKO? Le AI impazzite si impossessano dei CAPTCHA di Discord che diventano irrisolvibili

Redazione RHC : 26 Maggio 2023 08:40

Gli utenti si lamentano del fatto che Discord CAPTCHA fornito da hCaptcha li costringe a cercare oggetti inesistenti nelle foto fornite. Ad esempio, un oggetto chiamato “Yoko“, che sembra un ibrido tra una lumaca e uno yo-yo, creato dall’IA, non esiste nella realtà.

Secondo i giornalisti di Vice Motherboard diverse persone si sono lamentate sui social network dello strano oggetto Yoko, che doveva essere trovato tra le altre foto per entrare in Discord.

Allo stesso tempo, altri utenti hanno scoperto che gli era stato chiesto di trovare le immagini di un cubo puzzle, anch’esso creato dall’intelligenza artificiale e che non assomigliava molto a un oggetto della vita reale. Inoltre, tutti gli oggetti sembrano provenire direttamente dalla Uncanny Valley.

I CAPTCHA per Discord sono forniti da hCaptcha e i rappresentanti di Discord hanno detto ai giornalisti che la tecnologia che genera questi prompt “è di proprietà di un partner di terze parti e Discord non determina in modo preliminare cosa verrà presentato agli utenti”.

A loro volta, i rappresentanti di hCaptcha hanno spiegato che quello che è successo è stato “un breve test che un piccolo numero di persone ha visto”.

E questa non è la prima volta che le persone notano la comparsa di strane immagini nei servizi hCaptcha e notano che la società apparentemente allena l’intelligenza artificiale con l’aiuto degli utenti. Così, due mesi fa, un utente di Reddit ha notato che Discord gli ha chiesto di trovare tra le immagini di persone che giocano a hockey e golf, giocatori di football, chiaramente creati dall’intelligenza artificiale. A marzo, un altro utente di Reddit si è lamentato del fatto che il CAPTCHA di Discord fosse diventato quasi irrisolvibile.

Ad esempio, nella sfida “Scegli un robot”, nessuna delle immagini sembra essere stata creata da un essere umano”,  ha scritto l’utente FunnerThanUsual sul subreddit di Discord. 

I giornalisti riassumono che il lavoro di hCaptcha è un ottimo esempio dei problemi che sorgono con i sistemi di apprendimento automatico. Il primo è che i sistemi di intelligenza artificiale richiedono un input umano significativo. Ad esempio, di norma, l’indicizzazione e la categorizzazione delle immagini è esternalizzata in paesi in via di sviluppo, il cui lavoro è estremamente mal pagato. 

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.