Últimas noticias

Inteligencia Artificial

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

OpenAI lanza una herramienta para detectar material de abuso infantil creado con IA y endurece la prevención

La campaña con ChatGPT busca ofrecer medidas de prevención contra la explotación y el abuso sexual infantil. Tambbién ha publicado una nueva guía práctica dirigida a los desarrolladores
  • Cómo ejercitar los tobillos, una de las partes del cuerpo que se lesionan con más frecuencia y que muchos nunca entrenamos
  • Los momentos de la historia que más alteraron la estatura de los humanos
La herramienta también permite diferenciar si el contenido ha sido generado usando inteligencia artificial. (Foto: magnific.com)

Agencia Europa Press

17/11/2026 10H6 - ACTUALIZADO A 17/11/2026 10H6

OpenAI ha lanzado una nueva herramienta gratuita para organizaciones verificadas que permite detectar material de abuso sexual infantil (CSAM), tanto generado con inteligencia artificial (IA) como contenido real, además de introducir nuevas medidas de prevención en ChatGPT.

La compañía dirigida por Sam Altman ha trasladado su intención de ofrecer medidas de prevención para combatir la explotación y el abuso sexual infantil en internet, especialmente, la creación y difusión de este tipo de contenido generado mediante IA, para “interrumpir estas conductas dañinas”.

En este sentido, ha presentado un nuevo clasificador de imágenes capaz de detectar posibles contenidos de abuso sexual infantil, incluidos aquellos generados mediante IA. Esta herramienta estará disponible de forma gratuita para organizaciones previamente verificadas a través de la API de OpenAI.

Así lo ha detallado la tecnológica en un comunicado en su blog, donde ha explicado que se trata de una herramienta desarrollada en colaboración con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC por sus siglas en inglés), que analiza las señales visuales de las imágenes buscando indicios visuales de abuso, para identificar nuevo contenido que podría no haber sido detectado anteriormente. Asimismo, indica específicamente si el material podría haber sido generado por IA.

Tras identificar una posible imagen de abuso sexual infantil, la herramienta asigna una puntuación al contenido para ayudar a los equipos de moderación a priorizar las imágenes que requieren revisión.

Según sus pruebas internas y con socios, OpenAI ha asegurado que las imágenes identificadas por el nuevo clasificador tenían aproximadamente “el doble de probabilidades de contener material abusivo”.

Nuevas medidas de prevención contra el abuso sexual infantil en ChatGPT. REMITIDA / HANDOUT por OPENAI Fotografía remitida a medios de comunicación exclusivamente para ilustrar la noticia a la que hace referencia la imagen, y citando la procedencia de la imagen en la firma 17/11/2026

Asimismo, la compañía ha identificado cómo el nuevo clasificador podría reducir el trabajo de revisión. Según sus estimaciones, marcaría un 48 por ciento menos de imágenes, encontrando aproximadamente la misma cantidad de imágenes abusivas que la herramienta actual. Es decir, señala específicamente el contenido que sí significa un abuso, dejando fuera las imágenes que finalmente no contienen CSAM.

Siguiendo esta línea, en las pruebas realizadas con imágenes de producción revisadas por humanos, han indicado que el 72 por ciento de las alertas fueron confirmadas por los revisores como “material de abuso sexual infantil novedoso”.

“Empresas como OpenAI tienen la responsabilidad de evitar que nuestra tecnología sea utilizada por depredadores para dañar a los niños, y también debemos colaborar con el sector en general, las organizaciones de protección infantil y las fuerzas del orden para impulsar nuestros esfuerzos colectivos de protección infantil en línea”, ha manifestado la tecnológica al respecto.

Nuevas medidas de prevención en ChatGPT

Por otra parte, OpenAI también ha introducido nuevas advertencias y medidas de prevención para interrumpir comportamientos potencialmente dañinos en ChatGPT.

Según ha indicado, el ‘chatbot’ mostrará advertencias cuando detecte intentos de encontrar material de abuso sexual infantil. Asimismo, los mensajes explicarán las consecuencias de sexualizar a menores, incluso cuando el contenido solicitado sea generado mediante IA.

Como resultado de estos comportamientos, OpenAI ha indicado que la conversación señalada con CSAM se eliminará automáticamente y el acceso del usuario a ChatGPT quedará suspendido durante un día. No obstante, la compañía ha subrayado que se ofrecerán opciones de apoyo especializadas para ayudar a los usuarios a “abandonar estos comportamientos”.

Con todo, en caso de identificar infracciones reiteradas por parte de un mismo perfil, OpenAI ha señalado que podrá interponer restricciones más prolongadas, llegando incluso a cerrar la cuenta o a contactar con las autoridades pertinentes.

Todas estas medidas se unen a las políticas que ya dispone OpenAI para prohibir este tipo de material, así como a las restricciones existentes sobre la generación de este tipo de contenido y su búsqueda.

Guía para desarrolladores y herramientas para unidades policiales

Finalmente, OpenAi ha publicado una nueva guía práctica dirigida a los desarrolladores para ayudarles a prevenir, detectar y responder ante el abuso sexual infantil en sus entornos digitales.

Esta guía incluye sistemas para que los usuarios puedan comunicar posibles casos de abuso, herramientas de detección de contenidos, procedimientos para revisar y denunciar posibles casos y recomendaciones para proteger a los profesionales que revisan contenidos sensibles, entre otras cuestiones.

Por otra parte, ha anunciado nuevas herramientas y opciones de formación para unidades policiales especializadas en protección infantil. Entre las que se incluyen complementos y herramientas específicas para investigaciones, capacidad de análisis de grandes volúmenes de datos y formación sobre el uso de IA en investigaciones.

TE PUEDE INTERESAR

  • Conoce qué foto del espacio tomó la NASA el día de tu cumpleaños
  • Le pidieron a Elon Musk que contrate a Jensen Huang, ex-CEO de Nvidia, y esta fue su respuesta
  • León XIV en Perú: ¿cómo puede la inteligencia artificial ayudar a mejorar la seguridad en eventos multitudinarios?

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

OpenAI

|ChatGPT

|inteligencia artificial

|abuso infantil

Contenido Sugerido

Contenido GEC

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Respuestas

Tomarte un café en la mañana antes que otros despierten no te hace una persona solitaria: qué revela este hábito sobre tí

Sandra Morales Gonzales

Virales

Reto matemático de hoy: ¿cuánto es 14 x 2 - 5 (6 + 7) -1?

Marcelo López Chavez

Te puede interesar:

OpenAI asegura que las consultas en ChatGPT ya equivalen al 20% de las búsquedas en Google

El mundo más conectado, App que sigue a León XIV, el nuevo pacto de OpenAI y otras noticias tecnológicas

CEO de OpenAI confía en que IA aporte “ganancia neta” de energía para compensar su alto consumo

Lo más visto

  1. La IA es “un arma de doble filo”, advierte el jefe de ONU Clima en la COP31
  2. Los momentos de la historia que más alteraron la estatura de los humanos
  3. La triple amenaza que enfrenta Anthropic con su debut en Wall Street
  4. Le pidieron a Elon Musk que contrate a Jensen Huang, ex-CEO de Nvidia, y esta fue su respuesta
Ver más de Inteligencia Artificial
Do Not Sell My Info
Privacy Settings