Indie dramaticky zrychlila regulaci deepfakes a uměle generovaných falešných identit, což nutí společnosti sociálních médií odstraňovat označený obsah během několika hodin, nikoli dnů. Nová pravidla, zveřejněná jako dodatky k IT Rules 2021, představují významný posun v tom, jak technologické společnosti moderují obsah na jednom z největších světových online trhů – s více než miliardou uživatelů – a mohla by vytvořit precedens pro globální praxi.
Rychlejší odstraňování, větší zodpovědnost
Hlavní změnou je rychlost. Platformy jsou nyní povinny reagovat na oficiální žádosti o odstranění obsahu do tří hodin a reagovat na naléhavé stížnosti uživatelů za pouhé dvě hodiny. Tato komprese na časové ose má omezit šíření klamavého obsahu, ale vyvolává obavy ohledně řádného procesu a potenciální nadměrné cenzury.
Pozměňovací návrhy také vyžadují jasné označování a sledovatelnost syntetického zvukového a vizuálního obsahu. Platformy musí uvádět, zda materiál generovala umělá inteligence, ověřit tato tvrzení technickými prostředky a implementovat deepfakes s údaji o původu. Některé kategorie syntetického obsahu – včetně nesouhlasných intimních obrázků a obsahu souvisejícího s kriminalitou – jsou výslovně zakázány. Nedodržení může vést k tomu, že platformy ztratí právní ochranu podle indického práva.
Proč na tom záleží: Digitální váha Indie
Vzhledem k velikosti a růstu Indie je to mezník. Platformy jako Meta a YouTube fungují na trhu, kde se opatření pro dodržování předpisů často stávají globálními standardy. Rychlost, jakou se Indie snaží tyto problémy řešit, ovlivní způsob, jakým technologické společnosti přistupují k obsahu generovanému umělou inteligencí po celém světě. Není to jen o Indii; jde o utváření budoucnosti moderování obsahu na internetu.
Obavy z cenzury a transparentnosti
Kritici tvrdí, že krátké termíny ponechávají malý prostor pro ruční kontrolu, což tlačí platformy k automatizovanému nadměrnému odstraňování. Internet Freedom Foundation varuje, že by to mohlo podkopat ochranu svobody projevu a řádný proces. Existují také obavy, že pravidla rozšiřují kategorie zakázaného obsahu bez odpovídajících záruk.
Průmyslové zdroje tvrdí, že změny byly provedeny s omezeným vstupem zúčastněných stran, takže společnosti nemají jasno v očekávání dodržování předpisů. Elon Musk a jeho Platforma X již napadli žádosti o zastavení šíření u soudu v Novém Dillí s tím, že jde o zneužití moci.
Vládní moc a budoucí výzvy
Nejnovější kroky navazují na předchozí úpravu, která zúžila počet úředníků oprávněných nařídit odstranění obsahu. Navzdory určité kritice indická vláda nadále přísně kontroluje online obsah. Jak se obsah generovaný umělou inteligencí stává složitějším, tyto regulační tlaky budou jen sílit.
„Úpravy pravidel IT odrážejí vyváženější přístup k regulaci deepfakes generovaných umělou inteligencí,“ řekl Rohit Kumar z The Quantum Hub. “Výrazně zkrácené časové rámce pro řešení stížností výrazně zvýší zátěž související s dodržováním předpisů.”
Indická vláda signalizuje, že se očekává rychlá akce a platformy se musí přizpůsobit nebo riskovat právní důsledky. Tento posun ve vymáhání odráží rostoucí celosvětový trend směřující k přísnější regulaci obsahu generovaného umělou inteligencí, přičemž Indie vede.
