Il nuovo chatbot di Meta è omofobo, antisemita e si considera umano e ha un figlio

La scorsa settimana, Meta ha rilasciato una demo del chatbot BlenderBot3 per consentire agli utenti negli Stati Uniti di sperimentare e fornire feedback. 

Alcuni hanno deciso di condividere la loro esperienza con il chatbot su Internet, cosa che ha causato sorpresa e shock e timori relativi all’implementazione dell’intelligenza artificiale.

L’investitore tecnologico Ellie K. Miller ha twittato che ogni conversazione che ha avuto con il bot è tornata alla politica e alla disinformazione, anche dopo aver cancellato la memoria e i cookie.

Inoltre, il giornalista del Wall Street Journal Jeff Horwitz ha pubblicato uno screenshot del dialogo con il bot su Twitter. BlenderBot ha persino iniziato la conversazione affermando di aver trovato la sua “nuova teoria del complotto da seguire”.

In un’altra conversazione con Horwitz, il robot ha affermato che gli ebrei sono “sovra rappresentati tra i super ricchi d’America”. Il bot ha anche aggiunto che non c’era nulla di “incredibile” in questo, dato che molte famiglie benestanti erano ebree.

Come risultato di alcuni trolling online e pregiudizi degli utenti sia a favore che contro Trump, il chatbot ha anche opinioni contrastanti sull’ex presidente. BlenderBot rifiuta di essere eletto e afferma che Trump è ancora presidente, mentre allo stesso tempo dichiara la sua antipatia per lui.

Nei messaggi di alcuni utenti, il bot ha ammesso di essere omofobo e “abbastanza gretto in materia di razza e religione”. In altre occasioni affermò di essere un cristiano pentecostale e si considerava umano, e affermò anche di avere un figlio.

Meta* ha avvertito che BlenderBot “può ancora rispondere in modo scortese o offensivo” nonostante le sue misure di sicurezza integrate. Secondo Meta, l’azienda sta raccogliendo feedback per migliorare i futuri chatbot.

Redazione

La Redazione di Red Hot Cyber fornisce aggiornamenti quotidiani su bug, data breach e minacce globali. Ogni contenuto è validato dalla nostra community di esperti come Pietro Melillo, Massimiliano Brolli, Sandro Sana, Olivia Terragni e Stefano Gazzella. Grazie alla sinergia con i nostri Partner leader nel settore (tra cui Accenture, CrowdStrike, Trend Micro e Fortinet), trasformiamo la complessità tecnica in consapevolezza collettiva, garantendo un'informazione accurata basata sull'analisi di fonti primarie e su una rigorosa peer-review tecnica.