Red Hot Cyber

La ciberseguridad se comparte. Reconozca el riesgo, combátalo, comparta sus experiencias y anime a otros a hacerlo mejor que usted.
Buscar

¡Gok en modo «sexy»! Crea vídeos para adultos con la IA de Elon Musk.

Redazione RHC : 7 agosto 2025 12:24

La empresa de inteligencia artificial de Elon Musk, xAI, introdujo recientemente una función provocativa en su herramienta Grok Imagine: el «Modo Picante». Esta función permite a los usuarios generar imágenes y vídeos NSFW, lo que marca una clara diferencia con las políticas de contenido más restrictivas de otras plataformas de IA.

Grok Imagine es una herramienta impulsada por IA diseñada para convertir textos en imágenes y vídeos cortos. La introducción del «Modo Picante» permite la creación de contenido para adultos, incluyendo desnudez parcial. Si bien existe cierta moderación (algunas indicaciones explícitas resultan en imágenes borrosas o bloqueadas), los usuarios han reportado la posibilidad de generar imágenes semidesnudas.

El lanzamiento del «Modo Picante» ha generado un debate sobre las implicaciones éticas y legales del contenido para adultos generado por IA. Entre las principales preocupaciones se incluyen:

  • Deepfakes no consensuados: La posibilidad de crear contenido explícito con personas reales sin su consentimiento es alarmante. Este abuso puede causar graves daños personales y profesionales.
  • Desafíos Regulatorios: La legislación actual, como la Ley de Eliminación de Contenidos (Take It Down Act), exige la eliminación rápida de contenido explícito generado por IA sin consentimiento. Las capacidades de Grok Imagine podrían poner en peligro la eficacia y la aplicación de estas leyes.
  • Responsabilidad de la plataforma: La decisión de xAI de incluir un modo de contenido explícito contradice la tendencia de la industria de implementar medidas de protección contra la generación de material dañino. Este enfoque podría generar escrutinio regulatorio y reacciones negativas del público.

Otras herramientas de generación de imágenes y vídeos basadas en IA, como DALL·E de OpenAI y DeepMind de Google, han implementado estrictas políticas de moderación de contenido para evitar la creación de contenido explícito o dañino. Estas plataformas emplean filtros y sistemas de monitorización para garantizar un uso responsable. En cambio, el enfoque permisivo de Grok Imagine lo distingue, pero también lo expone a posibles abusos y dilemas éticos.

La introducción del «Modo Picante» en Grok Imagine representa un paso audaz en el campo del contenido generado por IA, desafiando las normas existentes y planteando importantes preguntas sobre el equilibrio entre la libertad creativa y la responsabilidad ética.

El Modo Picante permite crear un vídeo de hasta 15 segundos de duración con imágenes para adultos y audio natural. Aunque la compañía ha impuesto algunas restricciones a esta herramienta, aún crea escenas que incluso eluden sus filtros.

Hace un tiempo, Mati Roy, empleada de xAI, publicó en X (Twitter) mencionando esta función y afirmando que esta herramienta puede generar desnudos. Puede que esta publicación se haya eliminado posteriormente, pero para entonces ya se había extendido como la pólvora en redes sociales.

Redazione
Red Hot Cyber's editorial team consists of a collection of individuals and anonymous sources who actively collaborate by providing advance information and news on cyber security and IT in general.

Lista degli articoli

Artículos destacados

¡HTTP/1.1 debe desaparecer! Vulnerabilidades críticas ponen en riesgo millones de sitios web.
Di Redazione RHC - 08/08/2025

Expertos en seguridad han revelado una falla crítica de seguridad en HTTP/1.1, lo que pone de relieve una amenaza que ha seguido afectando a la infraestructura web durante más de seis añ...

Una nueva técnica de escalada de privilegios (PE) permite omitir el UAC en Windows
Di Redazione RHC - 08/08/2025

Un descubrimiento reciente ha revelado una sofisticada técnica que elude el Control de Cuentas de Usuario (UAC) de Windows, lo que permite la escalada de privilegios sin la intervención del ...

Pánico por la IA: estamos entrando en la fase más peligrosa de la revolución digital
Di Redazione RHC - 08/08/2025

En los últimos meses, el debate sobre la inteligencia artificial ha adquirido tintes cada vez más extremos. Por un lado, las grandes empresas que desarrollan y venden soluciones de IA est&#x...

¿Qué son los sitios de filtración de datos de bandas de ransomware?
Di Redazione RHC - 07/08/2025

Los sitios de filtración de datos (DLS) de bandas de ransomware representan una amenaza cada vez más extendida para las empresas y las personas que utilizan Internet. Estos sitios fueron cre...

Descubriendo la Deep Web y la Dark Web: La guía definitiva
Di Antonio Piovesan - 07/08/2025

Desde hace algunos años se habla mucho sobre la deep web y la dark web, y muchos se preguntan: ¿pero qué significa esto exactamente? La dark web a menudo se asocia con actividades sospe...