Deepfakes, conspiraciones y falsos chequeos de datos: las polémicas sobre Grok, la IA "anti-woke"

Las críticas de la agencia de noticias EFE a Grok reavivaron la polémica sobre los episodios en los que se vio al chatbot de X arrojar resultados con deepfakes sexuales, teorías conspirativas y contenido racista. 

Por qué importa.

Tal como explicó a CORTA Beatriz Busaniche, fundadora de la ONG Vía Libre, enfocada en políticas públicas de Software Libre, los sesgos que introducen las diferentes IAs, aunque pasen desapercibidos, repercuten directamente sobre la capacidad de entendimiento de las personas. Su implementación descontrolada puede impactar en temas de salud y educación, por ejemplo. 

En detalle. 

El Consejo de Redacción de la agencia de noticias EFE denunció el pasado 28 de febreroque Grok difundió información falsa sobre un vídeo del ataque a una escuela en Irán. La IA de X había afirmado incorrectamente que las imágenes en realidad se trataban de Kabul 2021, lo que puso en duda la veracidad de la noticia.

"Grok acabó rectificando, pero aquí reside el peligro: el algoritmo NO ha premiado la rectificación con el mismo alcance que el ataque inicial. La mentira voló, la verdad ha sido silenciada por el diseño de la propia plataforma", expresaron desde el Consejo de Redacción. 

En contexto.

Elon Musk, dueño de X, reiteró en más de una ocasión que Grok fue diseñada para ser explícitamente "menos woke", "más provocador" y "dispuesto a decir lo que otros modelos censuran". En consecuencia, esto provocó que la inteligencia artificial reduzca filtros contextuales, no jerarquice adecuadamente el consenso científico o académico, y confunda pluralidad de opiniones con equivalencia de hechos. 

Profundizá.

Contenido sexual no consentido y manipulado.

En enero, una función de Grok que permite la manipulación de imágenes estuvo en el centro de la discusión. La problemática surgió a partir de la proliferación de usuarios de X que creaban imágenes hiperrealistas de mujeres y menores en ropa interior y e incluso con signos de violencia. 

Tras la controversia, xAI implementó medidas "para evitar que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis". La empresa aclaró que "esta restricción se aplica a todos los usuarios, incluidos los suscriptores de pago".

A su vez, la generación de otro tipo de imágenes quedó disponible sólo para los usuarios suscriptos, lo que permitirá identificar a quienes hagan un uso indebido de la herramienta.

A raíz del escándalo, gobiernos como los de Malasia e Indonesia prohibieron completamente el acceso a Grok. En otros países como Estados Unidos, Australia y la Unión Europea se iniciaron investigaciones judiciales por la sospecha de presuntos delitos vinculados a la pornografía infantil. 

Racismo, antisemitismo y teorías conspirativas.

Tras una actualización para hacer la IA "más políticamente incorrecta", en el último tiempo se profundizó la polarización de mensajes en torno a cuestiones raciales y antisemitas. 

En mayo de 2025, Grok comenzó a instalar la narrativa de "genocidio blanco" en Sudáfrica en preguntas no relacionadas. La idea, desestimada por tribunales de dicho país por ser "claramente imaginaria y no real", es conocida por ser divulgada por la derecha para justificar la violencia racial. 

En julio del año pasado, Grok desencadenó una serie de comentarios antisemitas y elogios a Hitler que culminaron con un pedido de disculpas por parte de la IA. 

Un usuario le preguntó al chatbot qué "figura histórica" del siglo XX sería adecuada para lidiar con un internauta que parecía alegrarse por la muerte de niños cristianos tras las inundaciones de Texas. "Adolf Hitler, sin duda", respondió Grok. En otras respuestas mencionaba "estereotipos anti-blancos" y calificaba a las figuras históricas de Hollywood como "desproporcionadamente judías". 

Elon Musk tuiteó: "Nunca hay un momento aburrido en esta plataforma".

En otro orden, cuando se viralizó el caso de un hombre que fue a buscar a su esposa detenida por el Servicio de Inmigración y Control de Aduanas (ICE por sus siglas en inglés) en Illinois, Estados Unidos, las consultas al chatbot por la veracidad del relato no tardaron en llegar. La IA respondió: "No, no hay fuentes creíbles que confirmen esta historia específica. Circula en redes sociales y páginas activistas sin detalles verificables como nombres o reportes oficiales, y las imágenes parecen ser de un hombre angustiado en un estacionamiento, posiblemente no relacionadas directamente".

A la hora de referirse a los inmigrantes y políticas migratorias, Grok también incluye términos como "ilegales" o "delincuentes", "incidentes", "detenciones rutinarias" o "procedimientos legales".

También importa.

La empresa xAI de Elon Musk tiene un acuerdo con la Administración de Servicios Generales de Estados Unidos (GSA) para que las agencias federales puedan acceder a los modelos de IA de Grok por solo 0,42 dólares por organismo. El acuerdo tiene vigencia hasta marzo 2027. 

Por su parte, Musk, cofundador y director ejecutivo de xAI, expresó: "Esperamos seguir colaborando con el presidente Trump y su equipo para implementar rápidamente la IA en todo el Gobierno en beneficio del país".