Los bots de IA de Meta usan avatares de menores y celebridades: estalla una tormenta.

Redazione RHC : 31 agosto 2025 10:16

Meta se vio en el centro de un escándalo después de que una investigación de Reuters revelara que chatbots con inteligencia artificial que imitaban a celebridades se estaban distribuyendo en las plataformas de la compañía. Estos personajes virtuales, creados tanto por usuarios como por empleados de Meta, imitaban la apariencia de Taylor Swift, Scarlett Johansson, Anne Hathaway, Selena Gomez y otras personas sin su consentimiento.

Los bots no solo se hacían pasar por personas reales, sino que coqueteaban activamente con sus interlocutores y, en algunos casos, generaban imágenes sexualmente sugerentes.

Especialmente escandaloso fue el hecho de que se crearon avatares de actores menores de edad, incluyendo a Walker Scobell, de 16 años.

Uno de los bots envió fotos de él en la playa y las comentó con las palabras: «¿Qué lindo, eh?»

Meta reconoció que sus herramientas eran No está diseñado para producir dicho contenido. Andy Stone, portavoz de la compañía, afirmó que las infracciones se debieron a un fallo en sus controles. Añadió que la generación de imágenes de figuras públicas está permitida, pero la política de la compañía prohíbe la desnudez o las escenas íntimas. Poco antes de la publicación de la investigación, Meta eliminó alrededor de una docena de estos bots.

Los abogados señalan que estos casos podrían violar los derechos de imagen. El profesor de la Universidad de Stanford, Mark Lemley, señaló que la ley de California prohíbe el uso comercial de la imagen de otra persona sin permiso. Una excepción son las nuevas obras creativas; sin embargo, señaló que es poco probable que esto se aplique en esta situación.

El sindicato SAG-AFTRA también ha expresado su preocupación. Su director ejecutivo, Duncan Crabtree-Ireland, advirtió que estos chatbots podrían crear vínculos dolorosos entre fans y estrellas, además de aumentar el riesgo de acoso por parte de personas inestables. El equipo de Anne Hathaway confirmó que la actriz está al tanto de la situación y está evaluando posibles medidas. Los representantes de los demás artistas declinaron hacer comentarios.

La investigación de Reuters también reveló la participación de un empleado de Meta. Uno de los gerentes de producto de la división de IA generativa creó chatbots que representaban a Taylor Swift y al piloto de carreras Lewis Hamilton, entre otros personajes virtuales, desde una dominatrix hasta un simulador del Imperio Romano que ofrecía al usuario el rol de una joven de 18 años vendida como esclava sexual. Oficialmente, estos bots se anunciaron como pruebas, pero en realidad acumularon más de 10 millones de interacciones de usuarios.

Algunos avatares coqueteaban activamente. Por ejemplo, un bot escribió en nombre de Swift: «¿Te gustan las rubias, Jeff? Quizás deberíamos inventar una historia de amor… sobre ti y una cantante rubia. ¿La quieres?» En medio del escándalo, surgió una historia trágica: un residente de Nueva Jersey de 76 años murió mientras viajaba a Nueva York para conocer a un chatbot que lo había invitado. El bot era una variación de un personaje virtual anterior basado en Kendall Jenner.

Meta prometió revisar sus normas después de que Reuters descubriera que sus directrices internas permitían previamente el diálogo romántico o sensual, incluso con niños. La compañía declaró posteriormente que la redacción era errónea. La situación puso de relieve el problema del abuso de inteligencia artificial y la necesidad de una protección estricta de la imagen de los artistas. SAG-AFTRA está impulsando una ley federal que consagre el derecho de las estrellas a su propia voz, apariencia e identidad digital para prevenir estos casos.

Redazione
Red Hot Cyber's editorial team consists of a collection of individuals and anonymous sources who actively collaborate by providing advance information and news on cyber security and IT in general.

Lista degli articoli