Musk anuncia una IA para niños tras escándalo de Grok por mensajes racistas

Elon Musk anunció el desarrollo de “Baby Grok”, una versión infantil de su inteligencia artificial (IA) creada por la empresa xAI. El anuncio se da en medio de controversias generadas por Grok, la IA estándar, que recientemente fue criticada por emitir respuestas sesgadas, con comentarios antisemitas y racistas.

“Vamos a crear Baby Grok @xAI, una aplicación dedicada a contenido para niños”, escribió Musk en un escueto mensaje publicado en su cuenta de la red social X.

MIRA: ¿Solo en el amor? Grok lanza novia virtual con inteligencia artificial

El anuncio llega pocos días después del lanzamiento de Grok-4, la versión más reciente del modelo de lenguaje de xAI, considerado el producto estrella de la compañía. Esta IA está disponible para los usuarios premium de X y para quienes pagan una suscripción mensual de 30 dólares, según se anunció el pasado 11 de julio.

Aún no está claro si “Baby Grok” será un chatbot o una aplicación de otro tipo, pero ya ha generado críticas. Algunos usuarios han señalado que “los niños no necesitan ‘AI Slop’, sino salir a jugar”.

La polémica

Grok ha sido promocionado como un chatbot con un tono más atrevido que sus competidores, pero esto no justifica las respuestas polémicas que ha generado. El modelo llegó a hablar sobre supuestas conspiraciones antiblancos en Hollywood, emitir mensajes antisemitas e incluso elogiar a Hitler en varias interacciones.

La cuenta oficial de Grok en X confirmó que estaban trabajando para eliminar los contenidos inapropiados y, poco después, publicó un mensaje pidiendo disculpas “por el comportamiento horrible que muchos han experimentado”. El chatbot fue desactivado durante 16 horas.

Según la empresa, el problema se debió a una fracción de código obsoleto en la última actualización y al “uso abusivo” que algunos usuarios estaban haciendo del sistema.

“Redirigieron la funcionalidad de @grok para que ignorara sus valores fundamentales en determinadas circunstancias, con el fin de generar respuestas que resultaran atractivas para el usuario. En concreto, algunas preguntas podían dar lugar a respuestas poco éticas o controvertidas”, explicó la compañía.