A Índia acelerou dramaticamente a regulamentação de deepfakes e imitações geradas por IA, obrigando as plataformas de redes sociais a removerem conteúdo sinalizado em horas, em vez de dias. As novas regras, publicadas como alterações às Regras de TI de 2021, representam uma mudança significativa na forma como as empresas tecnológicas moderam o conteúdo num dos maiores mercados da Internet do mundo – com mais de mil milhões de utilizadores – e podem estabelecer um precedente para práticas globais.
Remoções mais rápidas, maior responsabilidade
A mudança central centra-se na velocidade. As plataformas agora enfrentam um prazo de três horas para cumprir as ordens oficiais de remoção e apenas duas horas para reclamações urgentes dos usuários. Esta compressão dos prazos destina-se a conter a propagação de conteúdo enganoso, mas levanta preocupações sobre o devido processo e o potencial de remoção excessiva.
As alterações também exigem rotulagem clara e rastreabilidade de conteúdo áudio e visual sintético. As plataformas devem divulgar se o material é gerado por IA, verificar essas afirmações usando ferramentas técnicas e incorporar deepfakes com dados de proveniência. Algumas categorias de conteúdo sintético – incluindo imagens íntimas não consensuais e materiais ligados a crimes – são totalmente proibidas. O não cumprimento pode comprometer as proteções legais das plataformas sob a lei indiana.
Por que isso é importante: o peso digital da Índia
O tamanho e o crescimento da Índia fazem deste um caso marcante. Plataformas como Meta e YouTube operam num mercado onde as medidas de conformidade muitas vezes se tornam padrões globais. A velocidade com que a Índia avança nessas questões influenciará a forma como as empresas de tecnologia abordam o conteúdo gerado por IA em todo o mundo. Isto não se trata apenas da Índia; trata-se de moldar o futuro da moderação de conteúdo na Internet.
Preocupações com Censura e Transparência
Os críticos argumentam que os cronogramas compactados deixam pouco espaço para revisão humana, empurrando as plataformas para a remoção excessiva automatizada. A Internet Freedom Foundation alerta que isso pode prejudicar as proteções à liberdade de expressão e o devido processo legal. Há também preocupações de que as regras expandam as categorias de conteúdo proibido sem salvaguardas adequadas.
Fontes da indústria sugerem que as mudanças foram implementadas com consultas limitadas, deixando as empresas pouco claras sobre as expectativas de conformidade. O X de Elon Musk já contestou Nova Deli em tribunal por causa de ordens de remoção de conteúdo, argumentando que constituem um exagero.
Autoridade governamental e desafios futuros
As últimas medidas seguem um ajuste anterior que reduziu o número de funcionários autorizados a ordenar remoções de conteúdo. Apesar de alguma resistência, o governo indiano continua a exercer um forte controlo sobre o conteúdo online. À medida que o conteúdo gerado pela IA se torna mais sofisticado, esta pressão regulamentar só se intensificará.
“As regras de TI alteradas marcam uma abordagem mais calibrada para regular os deepfakes gerados por IA”, disse Rohit Kumar do The Quantum Hub. “Os prazos de reclamação significativamente reduzidos aumentarão significativamente os encargos de conformidade.”
O governo indiano está sinalizando que se espera uma ação rápida e que as plataformas devem se adaptar ou correm o risco de consequências legais. Esta mudança na aplicação reflete uma tendência global crescente para uma regulamentação mais rigorosa dos conteúdos gerados por IA, com a Índia a liderar o processo.
