Últimas noticias

Inteligencia Artificial

/ NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.

ONU: directivos tecnológicos piden prudencia en el desarrollo de la IA

Líderes de las firmas de inteligencia artificial declararon ante el Consejo de Seguridad. “Se requerirán normas de seguridad aún más estrictas”, indicó Dario Amodei, de Anthropic
  • David Gross, Nobel de Física: “Las probabilidades de que la humanidad viva 50 años más son muy bajas”
  • Los alimentos ultraprocesados elevan el riesgo de enfermedades crónicas y muerte prematura
Directivos de las firmas tecnológicas expusieron la situación de la inteligencia artificial. (Foto: AFP)

Agencia AFP

27/9/2026 10H32 - ACTUALIZADO A 27/9/2026 10H32

Directivos de empresas de inteligencia artificial (IA) subrayaron el miércoles en la ONU la mayor vigilancia que exige esta tecnología, y el director ejecutivo de Anthropic asumió el compromiso unilateral de desacelerar su desarrollo.

Los líderes del sector informaron al Consejo de Seguridad de la ONU después de semanas de titulares en todo el mundo sobre los riesgos de una IA incontrolable y los llamamientos a frenar su evolución.

“Este momento requiere un extremo cuidado”, declaró Sam Altman, de OpenAI, durante una reunión de emergencia del Consejo de 15 miembros.

Advirtió que a medida que los sistemas de IA se vuelvan más capaces y autónomos, podrían ir más rápido que las instituciones o concentrar demasiado poder en pocas manos.

“La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, dijo Altman.

Normas de seguridad

Por su parte, el director ejecutivo de Anthropic, Dario Amodei, afirmó que a medida que los modelos de IA se vuelvan más potentes “se requerirán normas de seguridad aún más estrictas”.

Anthropic aspira a mejorar su capacidad para evitar el uso indebido de la tecnología, señaló durante una videollamada.

“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, declaró Amodei, días después de haber pedido una desaceleración coordinada entre los grandes actores de la IA, que por el momento no se ha concretado.

Sam Altman, CEO de OpenAI, se presentó ante la ONU para informar sobre la situación de la inteligencia artificial. (Foto: AFP)

Otro de los oradores fue Clément Delangue, de Hugging Face, blanco de un reciente ciberataque perpetrado por un software autónomo de OpenAI, el primero de una serie de incidentes que hicieron saltar las alarmas sobre la rápida evolución de la IA.

A principios de septiembre, Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic, decidió abandonar el sector y acusó a ambas empresas de “jugar con nuestras vidas” en la carrera por desarrollar modelos de IA capaces de automejorarse.

“No queremos caer en la trampa del optimismo ciego”, señaló Altman el miércoles, “pero tampoco podemos sucumbir al catastrofismo. (...) Así que vamos a hacer todo lo posible por encontrar un término medio”.

Delangue, de Hugging Face, destacó que, si bien su empresa fue objetivo de la IA, también utilizó esta tecnología para repeler los ataques.

“El mundo necesita la IA de código abierto más que nunca para defenderse”, dijo.

Como ya hizo en numerosas ocasiones, el CEO de OpenAI pidió cooperación internacional en materia de IA.

“En la historia”, recordó Altman, “ha habido momentos en los que países que competían entre sí y no se apreciaban necesariamente (...) aun así consiguieron ponerse de acuerdo por el bien común ante una nueva tecnología. Eso tiene que volver a ocurrir”.

TE PUEDE INTERESAR

  • “Made on YouTube”: las nuevas herramientas para creadores y fans anunciadas en el evento
  • Los 50 años del VHS y el día en que empezamos a grabarlo todo
  • ¿Sam Altman o Jensen Huang como profesores? Silicon Valley crea su propia academia, sin exámenes y sin tareas

Conforme a los criterios de

Saber más

Google

News
Sigue a El Comercio en

Google

News

TAGS

inteligencia artificial

|OpenAI

|Anthropic

Contenido Sugerido

Contenido GEC

Ciencias

La nave Voyager 1 de la NASA llama a la Tierra desde asombrosa distancia de un día luz

Agencia AP

Celebs

Jennifer Lopez se ríe de una broma sobre sus cuatro divorcios y revela el consejo que le dio su terapeuta tras separarse de Ben Affleck

Oscar Guerrero Tello

Música

Taylor Swift escribió una canción para ‘Toy Story 5’ tras ver el 75 % de la película: “Sabía qué quería hacer”

Agencia EFE

Qué ver

Robert Pattinson será James Bond: un repaso por los actores que dieron vida al agente 007

Agencia AP

Virales

Reto visual de hoy: encuentra la palabra “Perro” en la sopa de letras en menos de cinco segundos

Sandra Morales Gonzales

Virales

Reto visual: ¿Puedes encontrar los dos números 8 en esta imagen?

Marcelo López Chavez

Te puede interesar:

Trump rechaza una regulación globalista de la inteligencia artificial: “No permitiremos que eso suceda”

Sam Altman, CEO de OpenAI, dice que es “difícil imaginar el sector de la IA” sin Jensen Huang

“Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú

“Humano” es la palabra del año 2026 para Cambridge: qué tiene que ver con los temores sobre la IA

Lo más visto

  1. Trump rechaza una regulación globalista de la inteligencia artificial: “No permitiremos que eso suceda”
  2. Sam Altman, CEO de OpenAI, dice que es “difícil imaginar el sector de la IA” sin Jensen Huang
  3. “Estamos desnudos”: la advertencia sobre los nuevos ataques con IA que podrían multiplicar por 100 los hackeos en Perú
  4. ¿Podemos confiar en lo que vemos?
  5. La IA refleja estereotipos de género al hacer currículos y en la selección de puestos
Ver más de Inteligencia Artificial
Do Not Sell My Info
Privacy Settings