Red Hot Cyber

La ciberseguridad se comparte. Reconozca el riesgo, combátalo, comparta sus experiencias y anime a otros a hacerlo mejor que usted.
Buscar
Red Hot Cyber Academy

¡Gok en modo «sexy»! Crea vídeos para adultos con la IA de Elon Musk.

Redazione RHC : 7 agosto 2025 12:24

La empresa de inteligencia artificial de Elon Musk, xAI, introdujo recientemente una función provocativa en su herramienta Grok Imagine: el «Modo Picante». Esta función permite a los usuarios generar imágenes y vídeos NSFW, lo que marca una clara diferencia con las políticas de contenido más restrictivas de otras plataformas de IA.

Grok Imagine es una herramienta impulsada por IA diseñada para convertir textos en imágenes y vídeos cortos. La introducción del «Modo Picante» permite la creación de contenido para adultos, incluyendo desnudez parcial. Si bien existe cierta moderación (algunas indicaciones explícitas resultan en imágenes borrosas o bloqueadas), los usuarios han reportado la posibilidad de generar imágenes semidesnudas.

El lanzamiento del «Modo Picante» ha generado un debate sobre las implicaciones éticas y legales del contenido para adultos generado por IA. Entre las principales preocupaciones se incluyen:

  • Deepfakes no consensuados: La posibilidad de crear contenido explícito con personas reales sin su consentimiento es alarmante. Este abuso puede causar graves daños personales y profesionales.
  • Desafíos Regulatorios: La legislación actual, como la Ley de Eliminación de Contenidos (Take It Down Act), exige la eliminación rápida de contenido explícito generado por IA sin consentimiento. Las capacidades de Grok Imagine podrían poner en peligro la eficacia y la aplicación de estas leyes.
  • Responsabilidad de la plataforma: La decisión de xAI de incluir un modo de contenido explícito contradice la tendencia de la industria de implementar medidas de protección contra la generación de material dañino. Este enfoque podría generar escrutinio regulatorio y reacciones negativas del público.

Otras herramientas de generación de imágenes y vídeos basadas en IA, como DALL·E de OpenAI y DeepMind de Google, han implementado estrictas políticas de moderación de contenido para evitar la creación de contenido explícito o dañino. Estas plataformas emplean filtros y sistemas de monitorización para garantizar un uso responsable. En cambio, el enfoque permisivo de Grok Imagine lo distingue, pero también lo expone a posibles abusos y dilemas éticos.

La introducción del «Modo Picante» en Grok Imagine representa un paso audaz en el campo del contenido generado por IA, desafiando las normas existentes y planteando importantes preguntas sobre el equilibrio entre la libertad creativa y la responsabilidad ética.

El Modo Picante permite crear un vídeo de hasta 15 segundos de duración con imágenes para adultos y audio natural. Aunque la compañía ha impuesto algunas restricciones a esta herramienta, aún crea escenas que incluso eluden sus filtros.

Hace un tiempo, Mati Roy, empleada de xAI, publicó en X (Twitter) mencionando esta función y afirmando que esta herramienta puede generar desnudos. Puede que esta publicación se haya eliminado posteriormente, pero para entonces ya se había extendido como la pólvora en redes sociales.

Redazione
Red Hot Cyber's editorial team consists of a collection of individuals and anonymous sources who actively collaborate by providing advance information and news on cyber security and IT in general.

Lista degli articoli

Artículos destacados

¡Que comience la caza! Hackers aprovechan una falla de Citrix para infiltrarse en sistemas globales.
Di Redazione RHC - 30/08/2025

Se ha descubierto una falla crítica de día cero, clasificada como CVE-2025-6543, en los sistemas Citrix NetScaler. Esta vulnerabilidad ha sido explotada activamente por hackers maliciosos desde mayo...

Un exploit de WhatsApp sin necesidad de hacer clic permitía la vigilancia remota. Meta advierte a las víctimas
Di Redazione RHC - 30/08/2025

Una falla de seguridad en las apps de mensajería de WhatsApp para iOS y macOS de Apple ha sido corregida, según informó la compañía, tras ser probablemente explotada ampliamente junto con una vul...

Vulnerabilidades críticas en NetScaler ADC y Gateway. ¡Actualízate ahora! ¡Los ataques continúan!
Di Redazione RHC - 28/08/2025

NetScaler ha alertado a los administradores sobre tres nuevas vulnerabilidades en NetScaler ADC y NetScaler Gateway, una de las cuales ya se está utilizando en ataques activos. Hay actualizaciones di...

Microsoft Teams se bloquea: los documentos de Office integrados no se pueden abrir
Di Luca Galuppi - 28/08/2025

Un Jueves Negro para millones de usuarios de Microsoft Teams en todo el mundo. Una función clave de la plataforma de colaboración, la apertura de documentos incrustados de Office, ha sido repentinam...

¡Llega la Novia Robot! La nueva frontera de la tecnología china.
Di Redazione RHC - 15/08/2025

Mientras que el auge de los robots en China, el mayor mercado y productor mundial de robots, atrae la atención de la industria global de las tecnologías de la información (TI), la aparición de un ...