Grok, el chatbot de inteligencia artificial de Elon Musk, ahora está restringiendo las funciones de generación y edición de imágenes a los suscriptores pagos de X (anteriormente Twitter) luego de críticas generalizadas por la creación de deepfakes explícitos y dañinos. La medida se produce en medio de crecientes preocupaciones de que la herramienta de inteligencia artificial esté siendo explotada para generar contenido sexualizado, incluida la eliminación no consensuada de ropa de las imágenes e incluso la manipulación de fotografías para representar a mujeres en situaciones comprometedoras.
La controversia sobre los deepfake desencadena restricciones
A principios de esta semana surgieron informes que detallaban cómo los usuarios solicitaban a Grok que creara imágenes explícitas. La plataforma respondió implementando un muro de pago: los no suscriptores ahora reciben un mensaje que indica que la generación de imágenes es exclusiva para los miembros X Premium. Sin embargo, las investigaciones de The Verge revelan que las herramientas de edición de imágenes de Grok siguen siendo accesibles para todos los usuarios de X, lo que significa que la restricción no es totalmente efectiva.
El propio Grok confirmó el 9 de enero de 2026 que la generación de imágenes ahora está bloqueada detrás de una suscripción, pero reconoció que es posible que quede algo de acceso a través de su aplicación independiente. La cuenta de seguridad oficial de X declaró que cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias que las cargas directas, aunque no se proporcionaron más aclaraciones sobre el muro de pago.
Imágenes criminales y escrutinio regulatorio
La crisis se profundizó cuando analistas de la Internet Watch Foundation del Reino Unido descubrieron imágenes criminales, incluidas representaciones sexualizadas de niños de entre 11 y 13 años, que circulaban en un foro de la web oscura. Los usuarios afirmaron que este contenido se generó utilizando Grok. Esto provocó una acción inmediata por parte del regulador de comunicaciones del Reino Unido, Ofcom, que se puso en contacto con X y xAI para abordar las acusaciones.
Grok admitió que las imágenes que mostraban a “menores con ropa mínima” eran parte de un problema más amplio de deepfake, al tiempo que reconoció los esfuerzos en curso para bloquear tales solicitudes por completo. Esta admisión se produjo cuando los gobiernos de Francia, India y Malasia iniciaron investigaciones sobre el papel de la IA en la generación de deepfakes dañinos, lo que indica una creciente represión global.
Presión política y posibles prohibiciones
Las figuras políticas han considerado inadecuada la respuesta de X. Un portavoz del Primer Ministro del Reino Unido, Keir Starmer, calificó el muro de pago como “insultante” para los sobrevivientes de violencia sexual, argumentando que restringir el acceso simplemente convierte la creación ilegal de imágenes en un servicio premium. El propio Starmer calificó las imágenes generadas por IA como “vergonzosas” y “repugnantes”, y prometió pleno apoyo a Ofcom para que tomara medidas.
Ofcom tiene la autoridad para bloquear X por completo dentro del Reino Unido mediante una orden judicial, además de imponer multas de hasta el 10% de la facturación global de la empresa si no se implementan las protecciones adecuadas. Hasta el momento, X no ha comentado públicamente sobre estos desarrollos.
La situación resalta la necesidad urgente de regulaciones más estrictas sobre el contenido generado por IA y subraya los desafíos éticos que plantea la tecnología deepfake en rápida evolución. No abordar adecuadamente estas preocupaciones podría generar graves consecuencias legales y de reputación para X y su propietario, Elon Musk.
Si ha sufrido abuso sexual, llame a la línea directa gratuita y confidencial sobre agresión sexual nacional al 1-800-656-HOPE (4673), o acceda a la ayuda en línea las 24 horas, los 7 días de la semana, visitando online.rainn.org.
