Google estrena SynthID, una herramienta diseñada para agregar marcas de agua digitales a las imágenes generadas por inteligencia artificial (IA), permitiendo así su diferenciación de aquellas que son reales.
MIRA: Así luciría el hijo de Doña Florinda y el profesor Jirafales, según una Inteligencia Artificial
Esta presentación se da en un contexto donde la IA generativa es ampliamente utilizada para crear imágenes sintéticas, maximizando la creatividad de los usuarios.
Sin embargo, el auge de estos contenidos generados por IA ha planteado preocupaciones, como la difusión de información incorrecta o engañosa y la vulneración de los derechos de autor.
En respuesta a estos desafíos, Google, en su enfoque por implementar una IA responsable, desarrolló SynthID en colaboración con su equipo de Google DeepMind, Google Research y Google Cloud.
MIRA: Cómo se verían hoy Shakespeare, Mozart y George Washington, según una inteligencia artificial
La herramienta, que se incorpora directamente en los píxeles de la imagen, crea una marca de agua digital indetectable para el ojo humano. Sin embargo, mediante software especializado, se puede identificar claramente, facilitando su distinción.
En un comunicado en la página de DeepMind, la compañía enfatizó la importancia de que los usuarios puedan identificar contenido generado por IA, citando que es “fundamental” para prevenir la difusión de información errónea.
SynthID utiliza dos modelos de aprendizaje profundo: uno para la creación de las marcas de agua y otro para su identificación, ambos entrenados en un conjunto diverso de imágenes.
La herramienta analiza imágenes en base a tres niveles de confianza: “detectada” para imágenes creadas por IA, “no detectada” para imágenes reales, y “posiblemente detectada” cuando la identificación no es clara.
A pesar de que SynthID no es perfecta, especialmente frente a manipulaciones extremas, el gigante tecnológico resalta que es un paso hacia la responsabilidad en el uso de contenido generado por IA.
TE PUEDE INTERESAR
- Cómo sería Gokú, Vegeta y Bulma de Dragon Ball si fuesen supermodelos, según una IA
- Así sería la versión anime de “El Señor de los Anillos”, según una IA
- Del Faro de Alejandría a los Jardines de Babilonia: así serían las 7 maravillas de la antigüedad, según una IA
- 6 trabajos que la Inteligencia Artificial está creando y qué tipo de preparación requieren
Contenido sugerido
Contenido GEC