X ha decidido pisar el freno a Grok: después de semanas de polémica por la facilidad con la que se podían “fabricar” imágenes sexualizadas a partir de fotos reales, la red social anuncia nuevas restricciones para impedir la creación de desnudos no consentidos y material de explotación sexual infantil, y extender ese bloqueo a toda la base de usuarios.
El cambio llega acompañado de otra vuelta de tuerca: la generación y edición de imágenes con Grok, propiedad de Elon Musk, se limita a cuentas de pago, con la idea de que haya más trazabilidad y se pueda hacer responsable a quien intente saltarse las normas. En paralelo, en EE. UU. el caso ya ha escalado a terreno político y regulatorio, con investigaciones y presión pública tras la circulación de deepfakes.
"Seguimos comprometidos con hacer de X una plataforma segura para todos y mantenemos una política de tolerancia cero con cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”, indica el comunicado. "También denunciamos a las autoridades policiales las cuentas que buscan material de explotación sexual infantil, según sea necesario", añade.
Bloqueos internacionales y presión regulatoria
Parte de esa presión viene de fuera: Indonesia y Malasia han llegado a bloquear el acceso a Grok por la proliferación de imágenes manipuladas, una señal de que el problema se ha convertido en un quebradero de cabeza internacional y no solo en una crisis reputacional para X.
En Europa, el cerco también se estrecha. Reino Unido, a través de Ofcom, ha movido ficha ante el uso de IA para crear contenido sexual no consentido, y Bruselas ha ordenado a X conservar la documentación relacionada con Grok hasta finales de 2026, un paso típico cuando los reguladores quieren “huella” para investigar y exigir cambios.
El reto del “cómo” y los rodeos
El punto débil, como casi siempre, está en el “cómo” del control. X asegura que el control se hará con medidas tecnológicas y políticas de tolerancia cero, pero la experiencia con sistemas generativos demuestra que los abusos evolucionan rápido: cambian los trucos, cambian los prompts y aparecen rodeos. Por eso, el debate ya no es solo de privacidad: es de seguridad, capacidad real de detección y de cuánto se puede confiar en barreras automatizadas
