Google Gemini mejora la verificación de imágenes generadas por IA

Redazione RHC : 23 noviembre 2025 09:37

Google ha ampliado las capacidades de su servicio de inteligencia artificial Gemini añadiendo una herramienta a la app y a la versión web para analizar imágenes en busca de señales de generación automática . Esta función parece un paso lógico: el contenido visual se crea cada vez más utilizando modelos de IA, y la demanda de métodos para distinguir imágenes reales de sintéticas está en aumento.

El nuevo detector se basa en el sistema SynthID , marcadores digitales invisibles para el ojo humano, introducido en 2023. Se integran en imágenes creadas por los generadores de Google y persisten incluso después de redimensionarlas o procesarlas parcialmente . Por este motivo, la comprobación solo funciona con contenido creado específicamente con plantillas de Google.

Si una foto no tiene una marca de agua integrada, la herramienta no puede determinar con fiabilidad si la imagen fue creada por IA. Las pruebas con contenido creado por otros modelos confirman esta limitación: Gemini a veces puede hacer suposiciones basándose en pequeñas señales visuales, pero esto no puede considerarse una prueba definitiva.

SynthID es de código abierto, y Google incluso se ha asociado con socios como Hugging Face y Nvidia, pero la mayoría de los generadores utilizan enfoques diferentes. Por ejemplo, ChatGPT utiliza el esquema de metadatos C2PA , compatible con Microsoft, Adobe, Meta y otros. Google ha anunciado planes para añadir compatibilidad con C2PA para ampliar la detección de etiquetas más allá de su propio ecosistema.

Pero ni siquiera esta actualización garantiza la seguridad, ya que este verano investigadores de la Universidad de Waterloo desarrollaron un método llamado UnMarker que puede eliminar marcas de agua de modelos de IA, incluyendo SynthID, en tan solo unos minutos en una GPU Nvidia A100. El equipo DeepMind de Google llegó a conclusiones similares, señalando que los metadatos de C2PA son incluso menos fiables en algunos casos.

Al mismo tiempo, la compañía presentó una versión actualizada de su sistema de generación de imágenes, llamada Nano Banana Pro. Este modelo se basa en el Gemini 3 Pro y está diseñado para reproducir con mayor precisión el texto dentro de un marco, una debilidad de la IA visual en el pasado.

El algoritmo ahora puede generar infografías y otros materiales donde la legibilidad de los subtítulos es importante. La velocidad de creación de contenido también ha aumentado significativamente. Las imágenes aún contienen el ícono de Gemini visible y las etiquetas SynthID invisibles.

En una prueba, Nano Banana Pro creó una ilustración específicamente para fines de demostración y luego intentó eliminarla de SynthID . Sin embargo, incluso después de eliminar los rastros, el sistema seguía reconociendo la imagen como generada.

Por lo tanto, la nueva funcionalidad de Gemini ayuda a identificar algunas de las imágenes creadas por las herramientas de Google, pero no es de aplicación universal. Aún es posible eliminar o distorsionar los rastros incrustados, lo que significa que las herramientas para verificar el origen del contenido digital siguen siendo solo una forma de navegar por el proceso de creación de gráficos sintéticos.

Redazione
Red Hot Cyber's editorial team consists of a collection of individuals and anonymous sources who actively collaborate by providing advance information and news on cyber security and IT in general.

Lista degli articoli