Red Hot Cyber

La ciberseguridad se comparte. Reconozca el riesgo, combátalo, comparta sus experiencias y anime a otros a hacerlo mejor que usted.
Buscar

China exige etiquetas de contenido de IA. Veamos qué está pasando.

Redazione RHC : 2 octubre 2025 07:07

A partir del 1 de septiembre de 2025, todo el contenido generado por inteligencia artificial (IA) en China deberá estar marcado con una «marca de agua electrónica», según la nueva legislación. El objetivo declarado es mejorar la transparencia del contenido digital y reducir la difusión de información falsa.

En marzo de este año, la Administración del Ciberespacio de China (CAC) , junto con otros cuatro departamentos, publicó las “Medidas para identificar contenido sintético generado por inteligencia artificial” (conocidas como “Medidas de identificación” ).

Según estas reglas, el texto, las imágenes, el audio, el vídeo y las escenas virtuales creados mediante IA deben llevar identificadores explícitos, visibles para los usuarios, e identificadores implícitos, integrados en los datos que producen el contenido.

El papel de los editores y las responsabilidades de las plataformas

Las plataformas de redes sociales, como Bilibili, Douyin, Weibo y Xiaohongshu , exigen a los editores que marquen de forma proactiva el contenido generado por IA. Los usuarios o editores que incumplan esta norma se exponen a sanciones que van desde restricciones de tráfico hasta la eliminación de contenido y el bloqueo de cuentas . Cabe destacar que Douyin también ha impuesto suspensiones de ingresos y una reducción de seguidores para quienes no etiqueten correctamente el contenido generado por IA.

Muchas plataformas han introducido sistemas de etiquetado automático para gestionar contenido sin etiquetar, pero su eficacia es limitada. Los periodistas que buscaban términos como «imágenes de IA» seguían encontrando una cantidad significativa de contenido generado por IA sin etiquetar . Algunas plataformas implementaron estas normas incluso antes de la promulgación de las nuevas medidas, lo que demuestra que etiquetar contenido de IA es un proceso largo y complejo.

Según Yao Zhiwei , profesor de Derecho en la Universidad de Finanzas y Economía de Guangdong, las nuevas regulaciones exigen altas habilidades técnicas y sigue siendo incierto si las plataformas pequeñas y medianas podrán cumplirlas plenamente.

Motivaciones y dinámicas de los editores

El hecho de que los editores no reporten contenido de IA suele deberse a razones económicas, como el aumento del tráfico, la creación de nuevas cuentas y la monetización del contenido. Estudios sobre el impacto de reportar deepfakes sugieren que, si bien los recordatorios a los usuarios pueden aumentar la concienciación, también reducen la probabilidad de compartir el contenido.

Las plataformas tienen una relación ambivalente con la IA: por un lado, fomentan la creación de contenido generado por IA, aumentando el tráfico y la promoción; por otro, se enfrentan a abusos, incluida la difusión de información errónea, contenido pornográfico y manipulación de imágenes y rostros.

Intervenciones para combatir el abuso de la IA

En abril de 2025, la CAC lanzó una campaña especial de tres meses , «Claro y claro: Rectificando el abuso de la tecnología de IA». La Administración del Ciberespacio de Shanghái coordinó las acciones de 15 plataformas clave, entre ellas Xiaohongshu, Bilibili y Pinduoduo, interceptando más de 820.000 contenidos ilegales , eliminando 1.400 cuentas y eliminando más de 2.700 entidades de IA que no cumplían con las normas. Estas acciones redujeron significativamente la presencia en línea de contenido ilegal de IA.

Informes semanales de plataformas como «Clear and Bright: Rectifying the Abuse of AI Technology» destacan los tipos de abuso más comunes: publicidad engañosa, contenido vulgar, marketing ilegal de productos de IA e intercambio ilícito de rostros y voces. Bilibili también denuncia infracciones relacionadas con videos falsos sobre asuntos militares internacionales, contenido educativo con expertos virtuales, historias de viajes en el tiempo y modelos de IA para la preparación de exámenes universitarios.

Según la Oficina de Información de Internet de Shanghái , plataformas como Xiyu Technology, Jieyuexingchen, Tongyi, Xiaohongshu, Bilibili y Soul casi han completado la implementación de especificaciones de identificación explícita, lo que acelera el desarrollo de sistemas de identificación implícita y verificación de la cadena de comunicación. Xiaohongshu también ha liderado la creación de una guía práctica para el reconocimiento de metadatos de imágenes. Estos esfuerzos han producido resultados graduales pero concretos en la gestión de contenido generado por IA.

Redazione
Red Hot Cyber's editorial team consists of a collection of individuals and anonymous sources who actively collaborate by providing advance information and news on cyber security and IT in general.

Lista degli articoli

Artículos destacados

Phantom Taurus: el grupo de hackers chinos que espía a gobiernos y embajadas
Di Redazione RHC - 02/10/2025

Expertos de Palo Alto Networks han identificado un nuevo grupo de hackers vinculado al Partido Comunista Chino. Unit 42, la división de inteligencia de amenazas de la compañía con sede en Californi...

Descubriendo la inyección rápida: cuando la IA se deja engañar por las palabras
Di Manuel Roccon - 02/10/2025

Los sistemas de Inteligencia Artificial Generativa (GenAI) están revolucionando la forma en que interactuamos con la tecnología, ofreciendo capacidades extraordinarias en la creación de texto, imá...

¡De usuario a root en un segundo! CISA advierte: millones de sistemas operativos en riesgo. ¡Parche!
Di Redazione RHC - 30/09/2025

La Agencia de Seguridad de Infraestructura y Ciberseguridad de Estados Unidos (CISA) ha añadido una vulnerabilidad crítica en la popular utilidad Sudo, utilizada en sistemas Linux y similares a Unix...

¡EE. UU. quiere hackear Telegram! El caso genera debate sobre privacidad y jurisdicción.
Di Redazione RHC - 29/09/2025

El Departamento de Justicia de EE. UU. recibió autorización judicial para realizar una inspección remota de los servidores de Telegram como parte de una investigación sobre explotación infantil. ...

Ataques globales a dispositivos Cisco: las agencias cibernéticas advierten sobre una crisis en curso
Di Redazione RHC - 29/09/2025

Importantes agencias de todo el mundo han alertado sobre una amenaza crítica a la infraestructura de red: vulnerabilidades en los dispositivos Cisco Adaptive Security Appliance (ASA) y Firepower han ...