Konten porno AI marak, RI blokir aplikasi Grok sementara

cover | x

Pemerintah Republik Indonesia (RI) melalui Kementerian Komunikasi dan Digital (Komdigi) memutuskan untuk melakukan pemutusan akses sementara terhadap aplikasi Grok. Kebijakan ini diumumkan secara resmi di Jakarta pada 10 Januari 2026. Ketentuan tersebut diambil sebagai bentuk perlindungan terhadap masyarakat dari konten berbahaya berbasis kecerdasan artifisial.

Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid menyatakan bahwa keputusan ini bertujuan melindungi perempuan, anak, serta kelompok rentan lainnya. Pemerintah menilai adanya risiko serius dari konten pornografi yang dihasilkan teknologi AI. 

"Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok," tulis pernyataan resmi Komdigi, seperti dilansir topik.id, Sabtu (10/1/2026).

Praktik deepfake seksual nonkonsensual sebagai pelanggaran berat terhadap hak asasi manusia. Selain merusak martabat individu, konten tersebut juga mengancam rasa aman masyarakat di ruang digital. Pemerintah menegaskan tidak akan mentoleransi penyalahgunaan teknologi untuk tujuan tersebut.

Seiring dengan pemutusan akses Grok, Komdigi juga memanggil Platform X untuk memberikan klarifikasi. Platform diminta menjelaskan dampak negatif penggunaan Grok terhadap ekosistem digital nasional. Pemerintah menekankan pentingnya tanggung jawab platform dalam mengendalikan teknologi yang mereka kelola.

"Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital. Kementerian Komunikasi dan Digital juga juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok," ungkap dalam pernyataan tersebut.

Tindakan pemblokiran ini memiliki dasar hukum yang jelas. Komdigi merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020. Khususnya Pasal 9 yang mewajibkan Penyelenggara Sistem Elektronik mencegah penyebaran konten terlarang.

"Tindakan pemutusan akses dilakukan berdasarkan kewenangan Kementerian Komunikasi dan Digital sebagaimana diatur dalam Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik Lingkup Privat, khususnya Pasal 9, yang mewajibkan setiap Penyelenggara Sistem Elektronik (PSE) memastikan sistem elektronik yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan informasi elektronik dan/atau dokumen elektronik yang dilarang," terang Meutya dalam pernyataan tertulisnya, seperti dilansir topik.id, Sabtu (10/1/2026).

Dalam aturan tersebut ditegaskan bahwa PSE tidak boleh memuat atau memfasilitasi informasi elektronik yang melanggar hukum. Konten pornografi, termasuk hasil manipulasi AI, masuk dalam kategori yang dilarang. Oleh karena itu, langkah pemutusan akses dinilai sah dan proporsional.

Meski demikian, pemblokiran Grok saat ini belum sepenuhnya merata. Efektivitas pemutusan akses bergantung pada pembaruan sistem masing-masing ISP atau penyedia layanan internet. Sebagian pengguna masih dapat mengakses Grok melalui aplikasi atau web X, meski akses mandiri mulai dibatasi di banyak wilayah.