Conosci lo YOKO? Le AI impazzite si impossessano dei CAPTCHA di Discord che diventano irrisolvibili

Gli utenti si lamentano del fatto che Discord CAPTCHA fornito da hCaptcha li costringe a cercare oggetti inesistenti nelle foto fornite. Ad esempio, un oggetto chiamato “Yoko“, che sembra un ibrido tra una lumaca e uno yo-yo, creato dall’IA, non esiste nella realtà.

Secondo i giornalisti di Vice Motherboard diverse persone si sono lamentate sui social network dello strano oggetto Yoko, che doveva essere trovato tra le altre foto per entrare in Discord.

Allo stesso tempo, altri utenti hanno scoperto che gli era stato chiesto di trovare le immagini di un cubo puzzle, anch’esso creato dall’intelligenza artificiale e che non assomigliava molto a un oggetto della vita reale. Inoltre, tutti gli oggetti sembrano provenire direttamente dalla Uncanny Valley.

I CAPTCHA per Discord sono forniti da hCaptcha e i rappresentanti di Discord hanno detto ai giornalisti che la tecnologia che genera questi prompt “è di proprietà di un partner di terze parti e Discord non determina in modo preliminare cosa verrà presentato agli utenti”.

A loro volta, i rappresentanti di hCaptcha hanno spiegato che quello che è successo è stato “un breve test che un piccolo numero di persone ha visto”.

E questa non è la prima volta che le persone notano la comparsa di strane immagini nei servizi hCaptcha e notano che la società apparentemente allena l’intelligenza artificiale con l’aiuto degli utenti. Così, due mesi fa, un utente di Reddit ha notato che Discord gli ha chiesto di trovare tra le immagini di persone che giocano a hockey e golf, giocatori di football, chiaramente creati dall’intelligenza artificiale. A marzo, un altro utente di Reddit si è lamentato del fatto che il CAPTCHA di Discord fosse diventato quasi irrisolvibile.

Ad esempio, nella sfida “Scegli un robot”, nessuna delle immagini sembra essere stata creata da un essere umano”,  ha scritto l’utente FunnerThanUsual sul subreddit di Discord. 

I giornalisti riassumono che il lavoro di hCaptcha è un ottimo esempio dei problemi che sorgono con i sistemi di apprendimento automatico. Il primo è che i sistemi di intelligenza artificiale richiedono un input umano significativo. Ad esempio, di norma, l’indicizzazione e la categorizzazione delle immagini è esternalizzata in paesi in via di sviluppo, il cui lavoro è estremamente mal pagato. 

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.