Jakarta – Pemerintah Indonesia mengambil langkah tegas dengan memblokir sementara akses ke chatbot AI Grok, milik platform X (dulu Twitter), Sabtu (10/1/2026). Pemblokiran ini dilakukan sebagai respons terhadap maraknya penyalahgunaan AI untuk membuat konten deepfake asusila.
Kementerian Komunikasi dan Digital (Komdigi) menjadi garda terdepan dalam melindungi masyarakat dari bahaya konten pornografi palsu.
Menkomdigi Meutya Hafid menyatakan, pemblokiran ini adalah tindakan cepat untuk melindungi perempuan, anak-anak, dan seluruh warga negara dari penyalahgunaan teknologi AI.
“Demi melindungi masyarakat dari risiko konten pornografi palsu yang dihasilkan AI, pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” tegasnya.
Pemerintah memandang serius deepfake seksual nonkonsensual sebagai pelanggaran hak asasi manusia, bukan sekadar masalah kesusilaan.
Manipulasi visual ini dinilai merusak martabat, keamanan di ruang digital, dan merampas kendali individu atas identitas visual.
Selain pemblokiran, Komdigi juga memanggil pihak Platform X untuk memberikan klarifikasi terkait dampak negatif Grok.
Tindakan ini didasari Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat.
Ancaman pidana juga menanti pengguna yang membuat atau menyebarkan konten deepfake.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan manipulasi data elektronik tanpa persetujuan pemilik adalah tindak kriminal.
Sebelumnya, Grok AI menjadi sorotan karena kemampuannya memproduksi konten pornografi instan. Pengguna X menyalahgunakan AI ini dengan mengunggah foto wanita, termasuk figur publik dan anak-anak, disertai perintah spesifik yang tidak pantas.
