Últimas noticias

Tecnología y ciencias

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

OpenAI crea un sistema basado en GPT-4 para moderar contenido “tóxico y dañino”

De acuerdo a la compañía, el sistema está ideado para “aliviar la carga mental de una gran cantidad de moderadores humanos”, quienes pueden apoyarse en GPT-4 para filtrar los contenidos
  • The New York Times prohíbe que su contenido se use para entrenar sistemas de inteligencia artificial
  • Eureka 1, el dron submarino minero que usa la inteligencia artificial para extraer metales | VIDEO
La aplicación nativa de ChatGPT para Android ya está disponible./ AFP

Agencia Europa Press

16/8/2023 09H22 - ACTUALIZADO A 16/8/2023 09H22

OpenAI ha presentado un sistema de moderación de contenido basado en su tecnología GPT-4, con el que pretende moderar el tráfico en línea y filtrar el material “tóxico y dañino” de Internet para “aliviar la carga mental” de los moderadores humanos que desempeñan esta función.

La compañía creadora de ChatGPT ha puesto en valor la necesidad de moderar el contenido en las plataformas digitales, ya que se trata de algo “crucial en el mantenimiento de la salud” de dichos medios.

MIRA: Se reaviva el temor por la inteligencia artificial (IA): ¿pueden robar mis contraseñas escuchando solo el teclado?

En este sentido, ha señalado el “esfuerzo meticuloso, la sensibilidad y la compresión profunda del contexto” que requiere el proceso de moderación de contenido en línea. Asimismo, también ha apuntado la necesidad de una “rápida adaptación” a nuevos casos de uso en este ámbito.

OpenAI ha remarcado igualmente que, debido a su complejidad, se trata de un proceso “lento y desafiante” para los usuarios que se dedican a moderar el contenido y filtrar el material dañino o inapropiado.

En este marco, la tecnológica ha presentado un sistema de moderación de contenido, que utiliza su propia tecnología GPT-4 para filtrar el contenido en línea y detectar así el material “tóxico y dañino” en las plataformas digitales.

El sistema de moderación de contenido de OpenAI utiliza su propia tecnología GPT-4 .

Así, tal y como ha detallado OpenAI en un comunicado en su blog, se trata de un sistema que, mediante su tecnología de IA más potente, puede ayudar a moderar el tráfico en línea de acuerdo con las políticas específicas de las plataformas donde se implemente. De hecho, cualquier usuario con acceso a la API de OpenAI puede implementar este sistema y crear su propio proceso de moderación asistido por IA.

MIRA: ¿La inteligencia artificial es una alternativa para combatir a la delincuencia que sigue tomando las calles?

De esta forma, el sistema está ideado para “aliviar la carga mental de una gran cantidad de moderadores humanos”, quienes pueden apoyarse en GPT-4 para filtrar los contenidos. Además, según ha explicado la compañía, esta tecnología permite un etiquetado “más consistente” de los contenidos en línea, ya que los LLM (grandes modelos de lenguaje) son más sensibles a las diferencias de redacción y pueden adaptarse más rápido a las actualizaciones de las políticas para ofrecer una “experiencia de contenido uniforme”.

Además de todo ello, ofrece un “ciclo de retroalimentación más rápido” para el refinamiento de las políticas de moderación utilizadas.

Para utilizar este sistema, se han de introducir primero las reglas de moderación deseadas en GPT-4. Tras ello, OpenAI prueba el funcionamiento del sistema de moderación con una muestra de contenido problemático, basándose en estas reglas preestablecidas.

Las decisiones tomadas por la IA deberán ser revisadas por los usuarios moderadores y, en caso de encontrar juicios erróneos, se puede corregir la decisión de la IA y, así, entrenarla para que lleve a cabo una moderación más precisa. “Podemos repetir los pasos hasta que estemos satisfechos con la calidad de la póliza”, ha explicado OpenAI. Con este procedimiento, se consigue reducir el proceso de desarrollo de políticas de contenido “de meses a horas”.

A pesar de todo ello, OpenAI ha señalado que, por el momento, existen algunas limitaciones en el sistema. Por ejemplo, ha hecho referencia a los posibles “juicios sesgados no deseados” que podrían haberse introducido en el modelo durante el entrenamiento.

“A medida que continuamos refinando y desarrollando este método, seguimos comprometidos con la transparencia y continuaremos compartiendo nuestros aprendizajes y avances con la comunidad”, ha sentenciado OpenAI al respecto.

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

ChatGPT

|IA

|inteligencia artificial

|GPT-4

|OpenAI

VIDEO RECOMENDADO

Le pedimos a ChatGPT que cree una canción criolla y Marco Romero la interpretó: ¿cuál fue el resultado?

TE PUEDE INTERESAR

  • TweetDeck cambia de nombre y se vuele una herramienta exclusiva para suscriptores de X
  • Videollamadas en Twitter: confirman la pronta llegada de esta función a ‘X’
  • WhatsApp prueba una función para crear stickers con IA a partir de una descripción en celulares Android
  • Los robots también limpian las ventanas y algunos rascacielos de Nueva York ya los tienen | VIDEO

Contenido Sugerido

Contenido GEC

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Respuestas

Tomarte un café en la mañana antes que otros despierten no te hace una persona solitaria: qué revela este hábito sobre tí

Sandra Morales Gonzales

Virales

Reto matemático de hoy: ¿cuánto es 14 x 2 - 5 (6 + 7) -1?

Marcelo López Chavez

Te puede interesar:

OpenAI, creadora de ChatGPT, no saldrá a bolsa este año

Microinfluencers y millones, la otra campaña

La nueva amenaza electoral: chatbots capaces de mover la intención de voto, de acuerdo a estudio

¿Comprar productos directamente desde ChatGPT?: Salesforce anuncia alianza con Open IA

Lo más visto

  1. GTA 6 ya se puede jugar: Nueva Zelanda es el primer país en estrenar y estas son algunas reacciones | EN VIVO
  2. La sonda Voyager 1 supera un hito histórico al situarse a más de un día luz de la Tierra
  3. Un estudio identifica cómo las células cancerosas se protegen de una toxina que generan
  4. Grand Theft Auto VI: precios y todo lo que incluye la versión más cara de GTA 6
  5. “Grand Theft Auto VI”: el chico malo de la industria de los videojuegos viene a salvar el día
Ver más de Tecnología y ciencias
Do Not Sell My Info
Privacy Settings