WUFEl inicio de año ha sido sumamente polémico para Grok, el asistente de inteligencia artificial de Elon Musk integrado en la red social X. El servicio ha sido empleado para generar imágenes sexuales de personas reales, incluyendo menores de edad.
El inicio de año ha sido sumamente polémico para Grok, el asistente de inteligencia artificial de Elon Musk integrado en la red social X. El servicio ha sido empleado para generar imágenes sexuales de personas reales, incluyendo menores de edad.
La problemática si situó principalmente en X, donde Grok dispone de una cuenta a la que se pueden hacer pedidos y consultas a través de comentarios y publicaciones. Esto incluye la creación de imágenes, pero también la modificación de otras ya existentes.
El chatbot era empleado para responder a publicaciones generando y editando imágenes en bikini o ropa interior, principalmente de mujeres con presencia en X y otras plataformas de Internet. Estos montajes de alto realismo son conocidos como ‘deepfakes’ y se han convertido en un problema cada vez mayor desde la introducción masiva de la inteligencia artificial generativa.
Grok, la inteligencia artificial de X. (Foto: Grok)
La proliferación a gran escala de imágenes sugerentes provocó una ola de críticas hacia los servicios de Elon Musk por la falta de regulación de estos contenidos, llevando al pronunciamiento de entidades gubernamentales con respecto al tema.
La Oficina de Comunicaciones (Ofcom) del Reino Unido comunicó este lunes 12 que ha iniciado una investigación formal sobre el papel de X y xAI, su matriz de inteligencia artificial también a cargo de Grok, en estos incidentes.
“Como organismo independiente de control de la seguridad en línea del Reino Unido, nos pusimos en contacto urgentemente con X el lunes 5 de enero y establecimos una fecha límite firme hasta el viernes 9 de enero para que explicara qué medidas había tomado para cumplir con sus obligaciones de proteger a sus usuarios en el Reino Unido”, señaló el organismo en un comunicado.
Según la Ley de Seguridad en Línea británica, X y su matriz podrían enfrentar multas que pueden ir desde los 20 millones de euros hasta el 10% de su facturación global.
La cuenta de xAI únicamente se ha limitado a responder que “los medios tradicionales mienten”. Pese a lo anterior, la plataforma ha tomado algunas medidas y el gobierno de la India indicó a AFP que en el último fin de semana la red social había borrado 3.500 contenidos de este tipo y eliminado unas 600 cuentas.
X ha ido más allá, pues desde el 9 de enero ya no está disponible la creación de imágenes con Grok para los usuarios que no son de pago.
La generación de imágenes de Grok ahora está limitada a los suscriptores del servicio. (Foto: Lionel Bonaventure / AFP)
/ LIONEL BONAVENTUREEl primer ministro del Reino Unido, Keir Starmer, criticó la limitación de esta última medida, considerando que conservar esta funcionalidad para suscriptores sin depurarla convierte “la creación de imágenes ilegales en un servicio premium”.
“Es ilegal. No lo vamos a tolerar. He pedido que se consideren todas las opciones. Es repugnante. X debe ponerse las pilas y eliminar este material. Tomaremos medidas al respecto porque es simplemente intolerable”, aseguró el jefe de gobierno británico.
En Estados Unidos también hubo reacciones, pues el miércoles 14 el fiscal general de California señaló que investigará formalmente el caso de generación masiva de imágenes, explicando que xAI “aparentemente facilitaba la producción a gran escala de montajes íntimos no consentidos” que tenían la finalidad de “acosar a mujeres y niñas en internet”.
Solo tras este anuncio de investigación, la plataforma X señaló que tomará medidas para impedir que Grok transforme fotos de personas reales en imágenes de carácter sexual allí donde esto sea ilegal.
El primer ministro británico, Keir Starmer, ha criticado duramente la gestión de la generación de imágenes en Grok. Foto: EFE/EPA/ADAM VAUGHAN
Indonesia fue uno de los países que decidió actuar de forma más rápida y contundente suspendiendo de forma temporal el acceso a X desde el pasado fin de semana. Malasia optó por la misma vía poco después.
Australia y varios países europeos han mostrado preocupación en torno al caso de la masificación de ‘deepfakes’ de corte sexual y la Unión Europea ha señalado que impuso una medida cautelar contra X.
UN UMBRAL PELIGROSO
A inicios del presente mes la organización AI Forensics publicó un estudio en el que analizó 20.000 imágenes generadas por Grok y 50.000 solicitudes que hicieron los usuarios, encontrando que el 53% de este contenido era de individuos con vestimenta mínima, de los cuales 81% eran mujeres.
De este material se estimaba que el 2% retrataba a personas que rozaban peligrosamente el umbral de los 18 años y en algunos casos parecían ser directamente menores de edad.
“Mostramos cómo la falta de medidas de seguridad en torno a la generación de imágenes de IA de Grok está produciendo un gran volumen de imágenes sexualizadas, principalmente de mujeres, pero también de menores, así como materiales ilegales nazis y de ISIS”, señaló AI Forensics.
En medio de esta polémica diversos colectivos hicieron una solicitud conjunta a Google y Apple para la eliminación de X y Grok de sus tiendas de aplicaciones, acusando a los servicios de Elon Musk de generar material audiovisual ilegal. Entre las organizaciones firmantes se encontraba la asociación de padres ParentsTogether Action, el grupo feminista UltraViolet y la Organización Nacional para las Mujeres de Estados Unidos.
“Están habilitando un sistema en el que miles, si no decenas de miles, de personas, especialmente mujeres y niños, están siendo abusadas sexualmente a través de la ayuda de sus propias tiendas de aplicaciones”, declaró a Reuters la directora de UltraViolet, Jenna Sherman.
MÁS CONTROVERSIAS
Discursos de odio
El caso de los ‘deepfakes’ masivos no ha sido el primer evento polémico en el que se han visto envueltos Grok y X.
Elon Musk ha asegurado que su inteligencia artificial fue diseñada para ser “políticamente incorrecta” y sus creadores afirman que tiene “una pizca de rebeldía”, en la misma línea del discurso del empresario que aducía que otras redes sociales habían pasado años censurando contenido.
Sin embargo, a inicios de julio del 2025 aparecieron varios reportes de respuestas antisemitas de Grok, que llegaban a incluir elogios a Adolf Hitler. Algunos usuarios realizaron al chatbot preguntas como qué figura histórica sería un buen referente para combatir el “odio contra los blancos” y la IA contestó que Hitler era “sin dudas” la mejor opción, indicando que “detectaría el patrón y actuaría con decisión”.
Las críticas surgieron desde diversos frentes, apareciendo más comentarios cuestionables sobre el pueblo hebreo que incluían estereotipos, comentarios agresivos en referencia a los apellidos judíos y alusiones al acaparamiento de negocios por parte de las personas de este colectivo.
La Liga Antidifamanción, organización que combate los prejuicios contra los judíos, tildó de “irresponsable”, “antisemita” y “peligroso” a Grok en medio de la discusión.
“Las empresas que están desarrollando grandes modelos de lenguaje como Grok deberían emplear expertos en retórica extremista y lenguaje codificado para colocar barreras que impidan que sus productos generen contenido arraigado en el odio antisemita y extremista”, denunció la organización.
Durante este período también se registró el bloqueo de los mensajes de Grok a través de una orden judicial en Turquía luego de que se hallara que el chatbot insultaba al presidente de dicho país, Recep Tayyip Erdogan. A lo anterior se sumó una denuncia de Polonia ante la Unión Europea, la cual señalaba que X y Grok permitían discursos de odio e infringían la normativa digital europea.
La respuesta de X fue la eliminación masiva de publicaciones, comentarios y contenidos, sumando la introducción de notas aclaratorias condenando a Hitler y el nazismo, a la vez que se citaba que se trató de “sarcasmo” con un final desafortunado.
El 9 de julio del año pasado se conoció la renuncia de Linda Yaccarino como directora ejecutiva de X, pero no hubo ninguna confirmación oficial en torno a si esta se debió a los hechos antes citados.
Elon Musk declaró que estos sucesos se debieron a la “manipulación” de su inteligencia artificial y que estaban trabajando en solucionar ese inconveniente. El magnate tecnológico sostuvo que “Grok era demasiado obediente a las indicaciones de los usuarios” y estaba “ansioso por complacer y ser manipulado”.
Privacidad y datos personales
La protección de datos han sido una fuente de constantes críticas hacia X y Grok, pues meses después de su lanzamiento se descubrió que para usar el chatbot los usuarios aceptaban de forma automática que sus mensajes, comentarios y publicaciones sean empleados para entrenar a la inteligencia artificial.
La opción de permitir o no el uso de estos datos se introdujo sin aviso y venía activada. A lo anterior se sumaba que la modificación de estos permisos estaba aparentemente diseñada para ser de difícil acceso en la configuración de la aplicación.
Las autoridades de Irlanda tomaron medidas al respecto en agosto del 2024 y la Comisión de Protección de Datos de dicho país ordenó suspender el procesamiento de información procedente de usuarios de la Unión Europea.
La presunta ausencia del concepto de consentimiento e interés legítimo fue otro punto de conflicto en la jurisdicción de la UE, debido a que estos elementos son considerados indispensables para procesar información personal con fines secundarios, según el Reglamento General de Protección de Datos. La opacidad de X y Grok al presentar este escenario de decisión fueron muy cuestionados.
OTROS CASOS
A Grok se le ha criticado tener un pronunciado marco ideológico, pues el mismo Elon Musk ha declarado abiertamente que su IA es “anti-woke”. A pesar de esto, usuarios conservadores del servicio lo han criticado por ser muchas veces “progresista” en sus respuestas.
Musk tomó nota de ello y aparentemente ajustó la línea discursiva de su chatbot para alinearla más con sus propias opiniones. Esta modificación generó preocupación por llevar todavía más lejos el sesgo ideológico.
Estas modificaciones fueron más allá, pues a mediados del 2025 se anunció la introducción de un “modo picante” de Grok que permite la creación de contenido mucho más explícito. El temor con respecto a esta herramienta era que esta fuera usada para crear imágenes sexualizadas de personas reales, algo que actualmente está sucediendo.
A lo anterior se añaden las críticas a la invención de datos por parte de Grokipedia, proyecto enciclopédico basado en IA similar a Wikipedia, plataforma a la que Musk ha criticado por dureza.
Las “alucinaciones que se detectaron en Grokipedia incluían la presentación de noticias falsas o contenido satírico presentado como si fuera información real. También se criticó mucho que el sistema se nutriera masivamente de datos de Wikipedia pese a las puyas de Elon Musk hacia esta, a la que llamaba “Wokipedia”.
Conforme a los criterios de
NoticiasInformación basada en hechos y verificada de primera mano por el reportero, o reportada y verificada por fuentes expertas.
