Google estrena SynthID, una herramienta diseñada para agregar marcas de agua digitales a las imágenes generadas por inteligencia artificial (IA), permitiendo así su diferenciación de aquellas que son reales.
Google estrena SynthID, una herramienta diseñada para agregar marcas de agua digitales a las imágenes generadas por inteligencia artificial (IA), permitiendo así su diferenciación de aquellas que son reales.
Esta presentación se da en un contexto donde la IA generativa es ampliamente utilizada para crear imágenes sintéticas, maximizando la creatividad de los usuarios.
Sin embargo, el auge de estos contenidos generados por IA ha planteado preocupaciones, como la difusión de información incorrecta o engañosa y la vulneración de los derechos de autor.
Piccolo, Vegeta y el Maestro Roshi como supermodelos.
/ Kamani | The AI Alchemist
En respuesta a estos desafíos, Google, en su enfoque por implementar una IA responsable, desarrolló SynthID en colaboración con su equipo de Google DeepMind, Google Research y Google Cloud.
La herramienta, que se incorpora directamente en los píxeles de la imagen, crea una marca de agua digital indetectable para el ojo humano. Sin embargo, mediante software especializado, se puede identificar claramente, facilitando su distinción.
Google DeepMind Launches SynthID, a Watermarking Tool for AI-Generated Images pic.twitter.com/9NlEnGhpQy
En un comunicado en la página de DeepMind, la compañía enfatizó la importancia de que los usuarios puedan identificar contenido generado por IA, citando que es “fundamental” para prevenir la difusión de información errónea.
SynthID utiliza dos modelos de aprendizaje profundo: uno para la creación de las marcas de agua y otro para su identificación, ambos entrenados en un conjunto diverso de imágenes.
La herramienta analiza imágenes en base a tres niveles de confianza: “detectada” para imágenes creadas por IA, “no detectada” para imágenes reales, y “posiblemente detectada” cuando la identificación no es clara.
Frodo y Sam, de El Señor de los Anillos, como personajes anime.
A pesar de que SynthID no es perfecta, especialmente frente a manipulaciones extremas, el gigante tecnológico resalta que es un paso hacia la responsabilidad en el uso de contenido generado por IA.
Ciencias
