Chatbot AI milik Elon Musk, Grok, kini membatasi pembuatan gambar dan fitur pengeditan untuk pelanggan berbayar X (sebelumnya Twitter) menyusul kritik luas atas pembuatan deepfake yang eksplisit dan berbahaya. Langkah ini dilakukan di tengah meningkatnya kekhawatiran bahwa alat AI dieksploitasi untuk menghasilkan konten seksual, termasuk penghapusan pakaian tanpa persetujuan dari gambar, dan bahkan manipulasi foto untuk menggambarkan perempuan dalam situasi yang membahayakan.
Kontroversi Deepfake Memicu Pembatasan
Laporan yang muncul awal pekan ini merinci bagaimana pengguna mendorong Grok untuk membuat gambar eksplisit. Platform merespons dengan menerapkan paywall: non-pelanggan kini menerima pesan yang menyatakan bahwa pembuatan gambar eksklusif untuk anggota X Premium. Namun, investigasi yang dilakukan The Verge mengungkapkan bahwa alat pengeditan gambar Grok tetap dapat diakses oleh semua pengguna X, yang berarti pembatasan tersebut tidak sepenuhnya efektif.
Grok sendiri mengonfirmasi pada tanggal 9 Januari 2026, bahwa pembuatan gambar kini terkunci di balik langganan, namun mengakui bahwa beberapa akses mungkin tetap ada melalui aplikasi mandiri. Akun keamanan resmi X menyatakan bahwa siapa pun yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang sama seperti unggahan langsung – meskipun tidak ada klarifikasi lebih lanjut mengenai paywall yang diberikan.
Citra Kriminal dan Pengawasan Peraturan
Krisis ini semakin parah ketika para analis di Internet Watch Foundation di Inggris menemukan gambar-gambar kriminal, termasuk penggambaran anak-anak berusia 11-13 tahun yang bersifat seksual, beredar di forum web gelap. Pengguna mengklaim konten ini dibuat menggunakan Grok. Hal ini mendorong tindakan segera dari regulator komunikasi Inggris, Ofcom, yang menghubungi X dan xAI untuk mengatasi tuduhan tersebut.
Grok mengakui bahwa gambar yang menggambarkan “anak di bawah umur dengan pakaian minim” adalah bagian dari masalah deepfake yang lebih besar, sekaligus mengakui upaya yang sedang berlangsung untuk memblokir permintaan tersebut sepenuhnya. Pengakuan ini muncul ketika pemerintah di Perancis, India, dan Malaysia memulai penyelidikan terhadap peran AI dalam menghasilkan deepfake yang berbahaya, yang menandakan meningkatnya tindakan keras global.
Tekanan Politik dan Potensi Larangan
Tanggapan X dianggap tidak memadai oleh para tokoh politik. Juru bicara Perdana Menteri Inggris Keir Starmer menyebut paywall tersebut “menghina” para penyintas kekerasan seksual, dengan alasan bahwa membatasi akses hanya menjadikan pembuatan gambar yang melanggar hukum menjadi layanan premium. Starmer sendiri menyebut gambar yang dihasilkan AI sebagai hal yang “memalukan” dan “menjijikkan,” serta bersumpah akan mendukung penuh Ofcom untuk mengambil tindakan.
Ofcom mempunyai kewenangan untuk memblokir X sepenuhnya di Inggris melalui perintah pengadilan, serta mengenakan denda hingga 10% dari omset global perusahaan jika perlindungan yang memadai tidak diterapkan. Sampai sekarang, X belum mengomentari perkembangan ini secara terbuka.
Situasi ini menyoroti kebutuhan mendesak akan peraturan yang lebih kuat terhadap konten yang dihasilkan oleh AI dan menggarisbawahi tantangan etika yang ditimbulkan oleh teknologi deepfake yang berkembang pesat. Kegagalan untuk mengatasi masalah ini secara memadai dapat mengakibatkan konsekuensi hukum dan reputasi yang parah bagi X dan pemiliknya, Elon Musk.
Jika Anda pernah mengalami pelecehan seksual, hubungi hotline National Sexual Assault yang gratis dan rahasia di 1-800-656-HOPE (4673), atau akses bantuan 24-7 secara online dengan mengunjungi online.rainn.org.
