TikTok etiquetará contenido de IA: desde efectos propios hasta creaciones en Firefly y DALL-E

TikTok etiquetará automáticamente el contenido generado por Inteligencia Artificial (IA) en plataformas de terceros, para lo que se ha asociado con la Coalición para la Procedencia y Autenticidad del Contenido (C2PA, por sus siglas en inglés) y utilizará su tecnología de credenciales de contenido basada en metadatos.

Con la llegada de herramientas de IA capaces de generar todo tipo de imágenes y videos de forma sencilla, como es el caso de Imagine de Meta, Firefly de Adobe o Dall-E de OpenAI, cada vez es más necesario ofrecer a los usuarios un contexto informativo sobre el contenido que ven en las redes sociales, para evitar la divulgación de información falsa u otro tipo de malentendidos o engaños.

MIRA: OpenAI anuncia nueva herramienta capaz de detectar imágenes falsas generadas por su IA

En este marco, la plataforma china propiedad de ByteDance lanzó en septiembre del pasado año una herramienta con la que permite a los usuarios identificar, a través de etiquetas, el contenido disponible en la red social que haya sido creado con IA. De hecho, esta herramienta ya ha sido utilizada por más de 37 millones de creadores.

Ahora, de cara a continuar apoyando las prácticas de creación de contenido transparentes y ayudar a los creadores a expresar de forma segura y responsable su creatividad con contenido creados por IA, TikTok ha anunciado que comenzará a etiquetar de forma automática los contenidos generados por IA a través de herramientas de plataformas de terceros.

Es decir, la red social identificará y señalará las imágenes y vídeos generados con IA, tanto aquellos que hayan sido creados con los efectos de IA que proporciona la propia TikTok, como los generados en otras plataformas de terceros, como es el caso de Firefly o Dall-E.

Para ello, tal y como ha detallado en un comunicado, se ha asociado con la Coalición para la Procedencia y Autenticidad del Contenido y utilizará su tecnología de credenciales de contenido para identificar este contenido publicado en su plataforma y, tras ello, etiquetarlo correspondientemente.

El protocolo C2PA es un proyecto de la Joint Development Foundation presentado en 2021 y creado para frenar la desinformación en línea y el fraude de contenido en servicios como Bing Image Creator.

Así, permite a editores, empresas y creadores de contenido incorporar metadatos en sus materiales visuales y de audio para verificar su origen y la información relacionada. En este sentido, TikTok podrá utilizar estos metadatos para reconocer y etiquetar el contenido generado por IA de forma automática.

No obstante, ha matizado que es posible que los contenidos etiquetados se muestren “de forma gradual” al principio, ya que es necesario que estos incluyan metadatos de credenciales de contenido para poder identificarlos. “A medida que otras plataformas también lo implementen, TikTok podrá etiquetar más contenido”, ha apostillado.

MIRA: ChatGPT tendrá su propio buscador de internet con capacidad de citar fuentes en sus respuestas

METADATOS EN EL CONTENIDO GENERADO EN TIKTOK

Siguiendo esta línea, TikTok ha anunciado que “en los próximos meses” también comenzará a adjuntar credenciales de contenido C2PA al contenido generado en la propia plataforma. De esta manera, ha señalado que cualquier usuario o plataforma podrá utilizar la herramienta de verificación de C2PA para identificar el contenido que se hizo en TikTok, incluso, obtener información de cuándo, dónde y cómo se editó.

Estas herramientas de identificación de contenido C2PA también están disponibles en los servicios de otras compañías, como es el caso de Microsoft con Bing Image Creator u OpenAI con DALL-E 3. Sin embargo, TikTok ha señalado que es la primera plataforma de compartición de vídeos en implementar la tecnología de credenciales de contenido.

Además de todo ello, TikTok se ha unido a la Iniciativa de Autenticidad de Contenido (CAI) liderada por Adobe. “Con la amplia comunidad de creadores y usuarios de TikTok a nivel mundial, estamos encantados de darles la bienvenida tanto a la C2PA como al CAI, ya que se embarcan en el viaje para proporcionar más transparencia y autenticidad en la plataforma”, ha concluido la consejera general y directora de Confianza de Adobe, Dana Rao.