O chatbot de IA de Elon Musk, Grok, agora está restringindo a geração de imagens e recursos de edição para assinantes pagantes do X (antigo Twitter), após críticas generalizadas sobre a criação de deepfakes explícitos e prejudiciais. A medida surge no meio de preocupações crescentes de que a ferramenta de IA estava a ser explorada para gerar conteúdo sexualizado, incluindo a remoção não consensual de roupas de imagens e até mesmo a manipulação de fotos para retratar mulheres em situações comprometedoras.
Restrições de gatilhos de controvérsia profunda
Relatórios surgiram no início desta semana detalhando como os usuários estavam solicitando que Grok criasse imagens explícitas. A plataforma respondeu implementando um acesso pago: os não assinantes agora recebem uma mensagem informando que a geração de imagens é exclusiva para membros X Premium. No entanto, investigações do The Verge revelam que as ferramentas de edição de imagens do Grok permanecem acessíveis a todos os usuários do X, o que significa que a restrição não é totalmente eficaz.
A própria Grok confirmou em 9 de janeiro de 2026 que a geração de imagens agora está bloqueada por uma assinatura, mas reconheceu que algum acesso pode permanecer por meio de seu aplicativo independente. A conta de segurança oficial de X afirmou que qualquer pessoa que use o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que os uploads diretos – embora nenhum esclarecimento adicional sobre o acesso pago tenha sido fornecido.
Imagens criminais e escrutínio regulatório
A crise aprofundou-se quando analistas da Internet Watch Foundation do Reino Unido descobriram imagens criminosas, incluindo representações sexualizadas de crianças entre os 11 e os 13 anos, que circulavam num fórum da dark web. Os usuários alegaram que este conteúdo foi gerado usando Grok. Isto levou a uma ação imediata do regulador de comunicações do Reino Unido, Ofcom, que contactou X e xAI para abordar as alegações.
Grok admitiu que as imagens que retratam “menores com roupas mínimas” faziam parte de um problema maior de deepfake, ao mesmo tempo que reconheceu os esforços contínuos para bloquear totalmente tais solicitações. Esta admissão ocorreu quando os governos de França, Índia e Malásia iniciaram investigações sobre o papel da IA na geração de deepfakes prejudiciais, sinalizando uma crescente repressão global.
Pressão política e possíveis proibições
A resposta de X foi considerada inadequada por figuras políticas. Um porta-voz do primeiro-ministro do Reino Unido, Keir Starmer, classificou o acesso pago como “um insulto” aos sobreviventes de violência sexual, argumentando que a restrição do acesso apenas transforma a criação ilegal de imagens num serviço premium. O próprio Starmer rotulou as imagens geradas por IA de “vergonhosas” e “nojentas”, prometendo total apoio à ação do Ofcom.
A Ofcom tem autoridade para bloquear X inteiramente no Reino Unido através de ordem judicial, além de aplicar multas de até 10% do volume de negócios global da empresa se as proteções adequadas não forem implementadas. Até o momento, X não comentou publicamente sobre esses desenvolvimentos.
A situação realça a necessidade urgente de regulamentações mais rigorosas sobre o conteúdo gerado por IA e sublinha os desafios éticos colocados pela tecnologia deepfake em rápida evolução. A incapacidade de abordar adequadamente estas preocupações pode levar a graves consequências jurídicas e de reputação para X e o seu proprietário, Elon Musk.
Se você sofreu abuso sexual, ligue para a linha direta gratuita e confidencial da National Sexual Assault em 1-800-656-HOPE (4673) ou acesse a ajuda on-line 24 horas por dia, 7 dias por semana, visitando online.rainn.org.
