India ha acelerado drásticamente su regulación de los deepfakes y las suplantaciones generadas por IA, obligando a las plataformas de redes sociales a eliminar el contenido marcado en cuestión de horas en lugar de días. Las nuevas reglas, publicadas como enmiendas a las Reglas de TI de 2021, representan un cambio significativo en la forma en que las empresas de tecnología moderan el contenido dentro de uno de los mercados de Internet más grandes del mundo (con más de mil millones de usuarios) y podrían sentar un precedente para las prácticas globales.
Desmontajes más rápidos, mayor responsabilidad
El cambio central se centra en la velocidad. Las plataformas ahora enfrentan un plazo de tres horas para cumplir con las órdenes oficiales de eliminación, y solo dos horas para quejas urgentes de los usuarios. Esta compresión de los plazos tiene como objetivo frenar la difusión de contenido engañoso, pero genera preocupaciones sobre el debido proceso y la posibilidad de una eliminación excesiva.
Las enmiendas también exigen un etiquetado claro y la trazabilidad del contenido visual y de audio sintético. Las plataformas deben revelar si el material es generado por IA, verificar esas afirmaciones utilizando herramientas técnicas e incorporar deepfakes con datos de procedencia. Algunas categorías de contenido sintético, incluidas imágenes íntimas no consensuadas y material vinculado a delitos, están totalmente prohibidas. El incumplimiento podría poner en peligro la protección legal de las plataformas según la ley india.
Por qué esto es importante: el peso digital de la India
El tamaño y el crecimiento de la India hacen de este un caso histórico. Plataformas como Meta y YouTube operan en un mercado donde las medidas de cumplimiento a menudo se convierten en estándares globales. La velocidad a la que India avance en estos temas influirá en la forma en que las empresas de tecnología aborden el contenido generado por IA en todo el mundo. No se trata sólo de India; se trata de dar forma al futuro de la moderación de contenidos en Internet.
Preocupaciones por la censura y la transparencia
Los críticos argumentan que los plazos comprimidos dejan poco espacio para la revisión humana, lo que empuja a las plataformas hacia una eliminación excesiva automatizada. La Internet Freedom Foundation advierte que esto podría socavar la protección de la libertad de expresión y el debido proceso. También existe la preocupación de que las reglas amplíen las categorías de contenido prohibido sin las salvaguardias adecuadas.
Fuentes de la industria sugieren que los cambios se implementaron con consultas limitadas, lo que dejó a las empresas sin tener claras las expectativas de cumplimiento. X, de Elon Musk, ya ha impugnado a Nueva Delhi ante los tribunales por órdenes de eliminación de contenidos, argumentando que constituyen una extralimitación.
Autoridad gubernamental y desafíos futuros
Las últimas medidas siguen a un ajuste previo que redujo el número de funcionarios autorizados a ordenar la eliminación de contenidos. A pesar de algunas reacciones negativas, el gobierno indio continúa ejerciendo un fuerte control sobre el contenido en línea. A medida que el contenido generado por IA se vuelva más sofisticado, esta presión regulatoria no hará más que intensificarse.
“Las reglas de TI modificadas marcan un enfoque más calibrado para regular los deepfakes generados por IA”, dijo Rohit Kumar de The Quantum Hub. “Los plazos de presentación de quejas significativamente reducidos aumentarán materialmente las cargas de cumplimiento”.
El gobierno indio está indicando que se espera una acción rápida y que las plataformas deben adaptarse o arriesgarse a consecuencias legales. Este cambio en la aplicación de la ley refleja una creciente tendencia global hacia una regulación más estricta del contenido generado por IA, con India a la cabeza.
