India telah secara signifikan mempercepat regulasi deepfake dan peniruan identitas yang dihasilkan oleh AI, sehingga memaksa platform media sosial untuk menghapus konten yang ditandai dalam hitungan jam, bukan hitungan hari. Peraturan baru ini, yang diterbitkan sebagai amandemen Peraturan TI tahun 2021, mewakili perubahan signifikan dalam cara perusahaan teknologi memoderasi konten di salah satu pasar internet terbesar di dunia—dengan lebih dari satu miliar pengguna—dan dapat menjadi preseden bagi praktik global.
Penghapusan Lebih Cepat, Tanggung Jawab Lebih Besar
Perubahan inti berpusat pada kecepatan. Platform kini menghadapi tenggat waktu tiga jam untuk mematuhi perintah penghapusan resmi, dan hanya dua jam untuk keluhan pengguna yang mendesak. Pemampatan jadwal ini dimaksudkan untuk mengekang penyebaran konten yang menipu namun menimbulkan kekhawatiran tentang proses yang semestinya dan potensi penghapusan yang berlebihan.
Amandemen tersebut juga mewajibkan pelabelan yang jelas dan ketertelusuran konten audio dan visual sintetis. Platform harus mengungkapkan apakah materi tersebut dihasilkan oleh AI, memverifikasi klaim tersebut menggunakan alat teknis, dan menyematkan deepfake dengan data asal. Beberapa kategori konten sintetis—termasuk gambar intim non-konsensual dan materi yang terkait dengan kejahatan—langsung dilarang. Kegagalan untuk mematuhi dapat membahayakan perlindungan hukum platform berdasarkan hukum India.
Mengapa Ini Penting: Bobot Digital India
Ukuran dan pertumbuhan India menjadikan hal ini sebagai kasus yang penting. Platform seperti Meta dan YouTube beroperasi di pasar di mana langkah-langkah kepatuhan sering kali menjadi standar global. Kecepatan India dalam mengatasi masalah ini akan memengaruhi cara perusahaan teknologi mendekati konten yang dihasilkan AI di seluruh dunia. Ini bukan hanya tentang India; ini tentang membentuk masa depan moderasi konten di internet.
Kekhawatiran Terhadap Sensor dan Transparansi
Kritikus berpendapat bahwa jadwal yang dikompresi hanya menyisakan sedikit ruang untuk tinjauan manusia, sehingga mendorong platform menuju penghapusan berlebihan secara otomatis. Internet Freedom Foundation memperingatkan bahwa hal ini dapat melemahkan perlindungan kebebasan berpendapat dan proses hukum. Ada juga kekhawatiran bahwa peraturan tersebut memperluas kategori konten terlarang tanpa perlindungan yang memadai.
Sumber-sumber industri menyatakan bahwa perubahan tersebut diterapkan dengan konsultasi terbatas, sehingga perusahaan tidak mengetahui ekspektasi kepatuhannya. X dari Elon Musk telah menggugat New Delhi di pengadilan atas perintah penghapusan konten, dengan alasan bahwa perintah tersebut merupakan tindakan yang melampaui batas.
Kewenangan Pemerintah dan Tantangan Masa Depan
Langkah terbaru ini mengikuti penyesuaian sebelumnya yang mempersempit jumlah pejabat yang berwenang memerintahkan penghapusan konten. Meskipun ada penolakan, pemerintah India terus menerapkan kontrol yang kuat terhadap konten online. Ketika konten yang dihasilkan AI menjadi lebih canggih, tekanan peraturan ini akan semakin meningkat.
“Peraturan TI yang diamandemen menandai pendekatan yang lebih terkalibrasi dalam mengatur deepfake yang dihasilkan oleh AI,” kata Rohit Kumar dari The Quantum Hub. “Jadwal pengaduan yang dipersingkat secara signifikan akan meningkatkan beban kepatuhan secara signifikan.”
Pemerintah India memberi isyarat bahwa diperlukan tindakan cepat, dan platform harus beradaptasi atau mengambil risiko konsekuensi hukum. Pergeseran dalam penegakan hukum ini mencerminkan tren global yang berkembang menuju regulasi yang lebih ketat terhadap konten yang dihasilkan oleh AI, dengan India sebagai pemimpin dalam hal ini.
