India heeft de regulering van deepfakes en door AI gegenereerde nabootsingen dramatisch versneld, waardoor sociale-mediaplatforms zijn gedwongen om gemarkeerde inhoud binnen enkele uren in plaats van dagen te verwijderen. De nieuwe regels, gepubliceerd als amendementen op de IT-regels van 2021, vertegenwoordigen een aanzienlijke verschuiving in de manier waarop technologiebedrijven inhoud modereren op een van ‘s werelds grootste internetmarkten – met meer dan een miljard gebruikers – en zouden een precedent kunnen scheppen voor mondiale praktijken.
Snellere verwijderingen, grotere aansprakelijkheid
De kernverandering draait om snelheid. Platforms hebben nu te maken met een deadline van drie uur om te voldoen aan officiële verwijderingsbevelen, en van slechts twee uur voor dringende klachten van gebruikers. Deze compressie van tijdlijnen is bedoeld om de verspreiding van misleidende inhoud tegen te gaan, maar roept zorgen op over een eerlijk proces en de mogelijkheid van overmatige verwijdering.
De amendementen vereisen ook een duidelijke etikettering en traceerbaarheid van synthetische audio- en visuele inhoud. Platforms moeten bekendmaken of materiaal door AI is gegenereerd, deze claims verifiëren met behulp van technische hulpmiddelen en deepfakes insluiten met herkomstgegevens. Sommige categorieën synthetische inhoud, waaronder intieme beelden zonder wederzijds goedvinden en materiaal dat verband houdt met misdaden, zijn ronduit verboden. Het niet naleven ervan kan de wettelijke bescherming van platforms onder de Indiase wet in gevaar brengen.
Waarom dit ertoe doet: het digitale gewicht van India
De omvang en groei van India maken dit tot een mijlpaal. Platformen als Meta en YouTube opereren in een markt waar nalevingsmaatregelen vaak mondiale standaarden worden. De snelheid waarmee India deze kwesties aanpakt, zal van invloed zijn op de manier waarop technologiebedrijven wereldwijd door AI gegenereerde inhoud benaderen. Dit gaat niet alleen over India; het gaat over het vormgeven van de toekomst van contentmoderatie op internet.
Bezorgdheid over censuur en transparantie
Critici beweren dat de gecomprimeerde tijdlijnen weinig ruimte laten voor menselijke beoordeling, waardoor platforms in de richting van geautomatiseerde oververwijdering worden geduwd. De Internet Freedom Foundation waarschuwt dat dit de bescherming van de vrijheid van meningsuiting en een eerlijk proces zou kunnen ondermijnen. Er bestaat ook bezorgdheid dat de regels verboden inhoudscategorieën uitbreiden zonder adequate waarborgen.
Bronnen uit de sector suggereren dat de veranderingen met beperkt overleg zijn doorgevoerd, waardoor bedrijven onduidelijk zijn over de nalevingsverwachtingen. Elon Musk’s X heeft New Delhi al voor de rechtbank aangeklaagd vanwege bevelen voor het verwijderen van inhoud, met het argument dat dit een overschrijding is.
Overheidsautoriteit en toekomstige uitdagingen
De nieuwste maatregelen volgen op een eerdere aanpassing waarbij het aantal functionarissen dat bevoegd is om opdracht te geven tot verwijdering van inhoud, werd verkleind. Ondanks enige tegenwerking blijft de Indiase overheid sterke controle uitoefenen op online-inhoud. Naarmate door AI gegenereerde inhoud geavanceerder wordt, zal deze regeldruk alleen maar toenemen.
“De gewijzigde IT-regels markeren een meer gekalibreerde aanpak voor het reguleren van door AI gegenereerde deepfakes”, zegt Rohit Kumar van The Quantum Hub. “De aanzienlijk gecomprimeerde tijdlijnen voor klachten zullen de nalevingslasten aanzienlijk verhogen.”
De Indiase regering geeft aan dat snelle actie wordt verwacht en dat platforms zich moeten aanpassen, anders riskeren ze juridische gevolgen. Deze verschuiving in de handhaving weerspiegelt een groeiende mondiale trend naar strengere regulering van door AI gegenereerde inhoud, waarbij India het voortouw neemt.
