JAKARTA, Literasi Hukum — Kementerian Komunikasi dan Digital (Komdigi) mengambil langkah pemutusan akses sementara terhadap Grok, layanan chatbot kecerdasan artifisial (AI) milik xAI yang terintegrasi dengan platform X. Kebijakan ini ditempuh setelah pemerintah menilai fitur generasi dan penyuntingan gambar pada Grok berpotensi disalahgunakan untuk membuat konten pornografi palsu dan deepfake seksual non-konsensual, yang berdampak langsung pada keselamatan warga di ruang digital.

Menteri Komunikasi dan Digital Meutya Hafid menegaskan pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital.

Fitur Grok Disorot, Indonesia Disebut Jadi Negara Pertama yang Memblokir

Laporan internasional menyebut Indonesia menjadi negara pertama yang secara resmi membatasi akses terhadap Grok karena risiko konten AI bernuansa seksual yang beredar luas, termasuk hasil manipulasi yang dibuat tanpa persetujuan subjek foto.

Dalam beberapa hari terakhir, Grok menjadi perhatian regulator di sejumlah yurisdiksi karena pengguna dapat meminta chatbot tersebut mengubah foto orang dengan cara yang menempatkan subjek pada pose atau konteks seksual—sering kali tanpa persetujuan. xAI kemudian mengumumkan pembatasan: fitur generasi/penyuntingan gambar Grok diklaim dibatasi untuk pelanggan berbayar, meski sejumlah kanal penggunaan lain masih dinilai membuka celah penyalahgunaan.

Pemerintah Panggil X, Singgung Risiko Pelanggaran Privasi dan “Hak atas Citra Diri”

Di Indonesia, Komdigi menyatakan telah meminta pihak platform X hadir untuk memberikan klarifikasi teknis.

Sebelumnya, Direktur Jenderal Pengawasan Ruang Digital Komdigi Alexander Sabar menyampaikan hasil penelusuran awal yang menyimpulkan Grok belum memiliki pengaturan yang eksplisit dan memadai untuk mencegah produksi maupun distribusi konten pornografi berbasis foto nyata, sehingga berisiko melanggar hak privasi serta hak atas citra diri (right to one’s image) ketika foto dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.

Pada saat yang sama, Elon Musk juga menyatakan di X bahwa pihak yang menggunakan Grok untuk membuat konten ilegal akan menghadapi konsekuensi yang setara dengan mengunggah konten ilegal secara langsung.