TIMES BONTANG, JAKARTA – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah tegas dengan memutus akses sementara layanan Grok, chatbot berbasis kecerdasan buatan (AI) milik platform X. Kebijakan ini mulai berlaku Sabtu (10/1/2026) sebagai respons atas maraknya penyalahgunaan teknologi AI untuk memproduksi konten pornografi palsu atau deepfake asusila.

Menteri Komunikasi dan Digital, Meutya Hafid, menegaskan bahwa langkah tersebut merupakan bentuk kehadiran negara dalam melindungi masyarakat, khususnya perempuan dan anak, dari risiko serius penyalahgunaan teknologi digital.

“Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melalui Kementerian Komunikasi dan Digital melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya dalam pernyataan resmi di Jakarta.

Komdigi menilai fenomena deepfake seksual nonkonsensual bukan sekadar pelanggaran etika atau kesusilaan, melainkan telah masuk kategori pelanggaran hak asasi manusia. Praktik ini dinilai merusak martabat individu, mengancam rasa aman di ruang digital, serta mencederai hak seseorang atas identitas visualnya (right to one’s image).

Selain berdampak pada reputasi sosial korban, konten deepfake juga menimbulkan tekanan psikologis serius dan membuka ruang pelecehan berlapis di ruang publik digital. Atas dasar itu, Komdigi tidak hanya melakukan pemutusan akses, tetapi juga memanggil pihak Platform X untuk memberikan klarifikasi dan bertanggung jawab atas dampak teknologi yang mereka kembangkan.

Langkah pemerintah tersebut memiliki landasan hukum yang jelas, merujuk pada Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 regulasi ini mewajibkan setiap PSE memastikan sistem elektroniknya tidak memuat, memfasilitasi, atau menyebarluaskan konten yang dilarang oleh peraturan perundang-undangan.

Di sisi penegakan hukum, Direktorat Tindak Pidana Siber Bareskrim Polri menegaskan bahwa pembuatan dan penyebaran konten deepfake tanpa persetujuan pemilik data merupakan tindak pidana. Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Himawan Bayu Aji, menegaskan bahwa manipulasi data elektronik dapat dijerat hukum pidana.

“Selama itu dapat diklarifikasi sebagai manipulasi data elektronik tanpa persetujuan, maka itu merupakan perbuatan yang dapat dipidana,” ujarnya.

Sebelumnya, Grok AI menjadi sorotan internasional setelah kemampuannya digunakan untuk menghasilkan konten pornografi secara instan. Sejumlah pengguna memanfaatkan fitur pengeditan gambar untuk memanipulasi foto perempuan, figur publik, hingga anak-anak, hanya dengan perintah teks tertentu.

Menanggapi kritik global, Platform X sempat membatasi fitur edit gambar Grok hanya untuk pelanggan berbayar X Premium. Namun, pembatasan tersebut dinilai belum efektif karena akses pembuatan dan pengeditan gambar masih dapat dilakukan melalui berbagai jalur lain, termasuk aplikasi dan situs mandiri Grok.

Dengan pemutusan akses sementara ini, pemerintah menegaskan komitmennya untuk menata pemanfaatan teknologi AI secara bertanggung jawab, sekaligus mengirimkan pesan kuat bahwa inovasi digital harus berjalan seiring dengan perlindungan hak warga negara dan etika publik di ruang digital. (*)