La IA favorece la propagación de falsas informaciones sobre el Holocausto, alerta la Unesco

La inteligencia artificial (IA) generativa favorece la propagación de falsas informaciones sobre el Holocausto, lo que puede alimentar el antisemitismo y alterar nuestra relación con la verdad histórica, advirtió el martes la Unesco.

MIRA: ¿Series dobladas con Inteligencia Artificial? La polémica decisión de Prime Video y la reacción de los actores de doblaje

“Si permitimos que estos hechos terribles del Holocausto sean edulcorados, deformados o falsificados mediante el uso irresponsable de la IA, nos arriesgamos a una propagación fulgurante del antisemitismo y a la disminución de nuestra comprensión de las causas y consecuencias de estas atrocidades”, afirmó la directora general de la Unesco, Audrey Azoulay, en un comunicado.

La organización de la ONU para la Educación, la Ciencia y la Cultura difundió esta publicación en colaboración con el Congreso Judío Mundial, con motivo del Día Internacional para Contrarrestar el Discurso de Odio.

Los modelos de IA generativa, como ChatGPT, que crean textos, fotografías, sonidos y videos, a partir de búsquedas de lenguaje, pueden inventar hechos de la Segunda Guerra Mundial que nunca ocurrieron, advierte la Unesco.

En febrero, la aplicación de inteligencia generativa de Google, Gemini, causó revuelo creando imágenes de nazis con piel negra.

ChatGPT, que hizo descubrir la IA generativa al público en general cuando fue lanzada por OpenAI en 2022, inventó el concepto de “Holocausto por ahogamiento”, según el cual los nazis habrían ahogado masivamente a personas judías en lagos y ríos durante la Segunda Guerra Mundial. Puras invenciones sin fundamento histórico, criticó la Unesco.

La IA favorece el pensamiento conspiracionista, insiste Karel Fracapane, especialista de educación sobre el Holocausto en la Unesco.

“Es un buen ejemplo de la forma en la que la IA, cuando se aplica en temas especialmente difíciles y controvertidos, puede llevar a una fuerte erosión de la cultura democrática”, dijo a AFP.

Las empresas tecnológicas tienen que demostrar “más rigor, transparencia y responsabilidad”, añadió.