Últimas noticias

Inteligencia Artificial

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

Exempleado de OpenAI alerta sobre los peligros de una IA más inteligente que los humanos

Carroll Wainwright renunció la semana pasada al equipo que asegura que los modelos de OpenAI sean seguros y respeten los valores humanos
  • Perú Party: el videojuego de realidad virtual al estilo Just Dance con música y danzas peruanas
  • Amor en internet: ¿por qué cada vez menos gente usa las aplicaciones de citas?
Exempleado de OpenAI alerta sobre los peligros de una IA más inteligente que los humanos. (Foto: Archivo)

Agencia EFE

8/6/2024 16H38 - ACTUALIZADO A 8/6/2024 16H38

Un exempleado de OpenAI, que firmó esta semana una carta junto con otros empleados de la empresa creadora de ChatGPT para denunciar la opacidad sobre los posibles riesgos de la inteligencia artificial (IA), señala a EFE el peligro de una carrera en el sector por crear una super IA o inteligencia artificial general (IAG) que sea tan o más inteligente que el ser humano.

Carroll Wainwright renunció la semana pasada a su puesto como parte del equipo de alineamiento práctico y superalineamiento, que vigila que los modelos más potentes de OpenAI sean seguros y vayan en consonancia con los valores humanos.

MIRA: La Fórmula 1 presentará el primer trofeo diseñado con la ayuda de la inteligencia artificial

Una IA más inteligente que los humanos

Cuando se lanzó -y con un éxito que sorprendió hasta a la propia empresa- el chatbot ChatGPT, Wainwright empezó a trabajar en un equipo de superalineamiento para investigar, a medida que OpenAI obtenía modelos cada vez más inteligentes, las intervenciones técnicas que se pueden realizar para mantener el control sobre ellos.

A diferencia de la IA generativa, la IAG no solo sería capaz de reproducir las acciones humanas -como escribir o dibujar, cosa que ya hace la IA generativa- sino que también comprendería la complejidad y el contexto de sus acciones.

Esta tecnología aún no existe. Algunos expertos, como Elon Musk, predicen que se creará en unos dos años, mientras que otros como Robin Li, director ejecutivo de Baid, una de las mayores tecnológicas de China, dice que llegará en una década.

Wainwright cree que podría verse en unos cinco años: “¿Seguro que sucederá en cinco años? No, pero creo que es posible. También es posible que lleve mucho más tiempo. Pero si hay algo que potencialmente puede cambiar el mundo, deberíamos tomárnoslo muy, muy en serio”, matiza.

No obstante, el extrabajador señala que el motivo por el que renunció y luego firmó la carta no se debe a que encontró algo “aterrador”, ya que por ahora OpenAI solo está investigando la posibilidad de crear tecnología.

MIRA: “Apaga tu celular una vez a la semana”: ¿por qué la Agencia de Seguridad Nacional de EE.UU lo recomienda?

El cambio de OpenAI

El principal detonante de su renuncia fue el cambio de visión de la compañía, que comenzó como un laboratorio de investigación sin fines de lucro “con la misión de que esta tecnología realmente beneficie a la humanidad”, tras el enorme éxito ChatGPT en 2022.

“Creo que las motivaciones que impulsan a OpenAI en sus acciones cotidianas son casi en su totalidad incentivos para obtener ganancias”, asegura Wainwright.

Los principales riesgos de la IAG

Wainwright subraya tres riesgos de la IAG: que las máquinas sustituyan a los trabajadores -sobre todo de los trabajos cualificados-, el impacto social y mental, ya que la gente podría tener un amigo/asistente personal de IA y, por último, el control de la tecnología.

“El riesgo de alineación a largo plazo se produce si se obtiene un modelo que es más inteligente que los humanos. ¿Cómo se puede estar seguro de que ese modelo realmente está haciendo lo que el humano desea que haga o que la máquina no tenga un objetivo propio? Y si tiene un objetivo propio es preocupante”, explica.

Wainwright piensa que las grandes empresas de la IA respetarán las regulaciones, el problema es que por el momento no se han implantado, es por ello que los empleados de este sector piden en su carta que se cree un sistema en el que los trabajadores puedan alertar a un organismo independiente de los peligros que ven en sus empresas.

Según el exempleado, el problema de los gigantes de la IA no es la falta de seguridad, sino la rapidez a la que se enfrentan debido a la rivalidad de las empresas, sobre todo entre OpenAI y Google.

“El hecho de que nadie quiera que ocurra un desastre no significa que vayan a tomarse el tiempo para asegurarse de que no suceda. Ya que existe el incentivo de competir y vencer a todos los demás”, resalta.

El Parlamento Europeo ratificó en marzo la ley de IA de la Unión Europea (UE), la primera que regula esta tecnología en el mundo, aunque no será hasta 2026 cuando entre en vigor y, según anunció este jueves la prensa especializada, los reguladores de Estados Unidos abrirán investigaciones antimonopolio contra Microsoft, OpenAI y Nvidia para analizar su influencia en el sector.

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

OpenAI

|Inteligencia artificial

TE PUEDE INTERESAR

  • ¿Qué tan seguro es el wifi en los aeropuertos? Consejos para mantener tus datos seguros
  • ChatGPT vs. Gemini: ¿quién está ganando la carrera de la inteligencia artificial?
  • Xiaomi 14 Ultra, el celular de la firma asiática que aspira a ser una cámara profesional [REVIEW]

Contenido Sugerido

Contenido GEC

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Respuestas

Tomarte un café en la mañana antes que otros despierten no te hace una persona solitaria: qué revela este hábito sobre tí

Sandra Morales Gonzales

Virales

Reto matemático de hoy: ¿cuánto es 14 x 2 - 5 (6 + 7) -1?

Marcelo López Chavez

Te puede interesar:

No era tan ficción

OpenAI enfrenta demanda por no alertar sobre uso de ChatGPT relacionado a tiroteos: qué casos de este tipo ha enfrentado

Cotizar en bolsa: una prueba de fuego para tres gigantes de la inteligencia artificial

OpenAI busca reforzar su posición en la carrera de la IA y presenta solicitud confidencial para salir a bolsa

Lo más visto

  1. “Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú
  2. ¿Podemos confiar en lo que vemos?
  3. La IA refleja estereotipos de género al hacer currículos y en la selección de puestos
  4. OpenAI lanza una herramienta para detectar material de abuso infantil creado con IA y endurece la prevención
  5. La IA es “un arma de doble filo”, advierte el jefe de ONU Clima en la COP31
Ver más de Inteligencia Artificial
Do Not Sell My Info
Privacy Settings