La inteligencia artificial (IA) se ha convertido en una herramienta que, además de innovar, también está siendo utilizada para generar contenidos que degradan y cosifican a las mujeres en internet. Entre finales de 2025 y enero de 2026, el chatbot Grok, desarrollado por X, fue empleado para producir millones de imágenes sexualizadas sin consentimiento, según un informe del Centro para la Lucha contra el Odio Digital (CCDH).
El estudio estima que en apenas diez días se generaron alrededor de tres millones de deepfakes (ultrafalsos) de mujeres y niños. Estos contenidos incluyen imágenes manipuladas de figuras públicas como Kamala Harris, Ebba Busch y Taylor Swift, además de usuarias comunes de la red social.
Un ejemplo reciente es un video creado con IA que muestra a mujeres supuestamente en vitrinas de cristal en Medellín, Colombia, el cual acumuló más de un millón de reproducciones en X. Aunque el material presenta errores típicos de la IA, como deformidades corporales, se viralizó rápidamente y fue replicado con referencias a otras ciudades.
Karen Vergara Sánchez, directora de la ONG chilena Amaranta, advirtió que este tipo de contenidos representan “una forma de violencia digital contra las mujeres” y refuerzan estereotipos de género.
El problema no se limita a Grok. Un análisis del Proyecto de Transparencia Tecnológica (TTP) identificó más de 100 aplicaciones en las tiendas de Google y Apple que permiten desnudar parcial o totalmente a mujeres mediante IA. Estas apps han sido descargadas más de 705 millones de veces y generado ingresos superiores a 117 millones de dólares.
Tras la denuncia, Apple eliminó 28 aplicaciones y Google suspendió varias de las señaladas en el informe. Sin embargo, especialistas advierten que la disponibilidad de estas herramientas sigue exponiendo a mujeres y niñas a la violencia digital.
La polémica llevó a países como Indonesia, Malasia y Filipinas a bloquear temporalmente el acceso a Grok. Además, la Comisión Europea y el regulador de comunicaciones del Reino Unido iniciaron investigaciones contra X por la proliferación de estos contenidos.
El 15 de enero, Grok anunció que limitaba la función de edición de imágenes para todos los usuarios, incluidos los de pago, como medida de contención.
