Dasar Hukum: Kewajiban PSE dan Opsi “Pemutusan Akses”

Dari perspektif regulasi Indonesia, tindakan Komdigi dapat dibaca dalam kerangka Permenkominfo 5/2020 tentang PSE Lingkup Privat. Regulasi ini mewajibkan PSE bertanggung jawab menyelenggarakan sistem elektronik secara andal, aman, dan bertanggung jawab, serta memastikan sistemnya tidak memuat maupun memfasilitasi penyebarluasan konten yang dilarang.

Permenkominfo 5/2020 juga membuka ruang tindakan “pemutusan akses” (take down maupun access blocking) apabila PSE tidak memenuhi kewajiban tersebut. Dalam Pasal 9, ditegaskan bahwa PSE yang tidak menjalankan kewajiban memastikan sistemnya bebas dari konten terlarang dapat dikenai pemutusan akses.

Selain itu, ketentuan teknis pemutusan akses memberi kewenangan kepada Menteri untuk memerintahkan take down—termasuk terhadap konten bermuatan pornografi—dan bila tidak dipatuhi, Menteri dapat melakukan pemutusan akses dan/atau memerintahkan ISP melakukan pemutusan akses terhadap sistem elektronik terkait.

Isu “Intermediary Liability”: Safe Harbor, tetapi dengan Syarat

Kasus Grok ikut menajamkan perdebatan mengenai tanggung jawab perantara (intermediary liability), terutama ketika platform bukan sekadar menyediakan ruang unggahan, tetapi juga menyediakan alat yang dapat menghasilkan atau memodifikasi konten. Permenkominfo 5/2020 mengenal mekanisme pembatasan tanggung jawab untuk PSE user-generated content, namun sifatnya kondisional: PSE dapat dibebaskan dari tanggung jawab jika memenuhi kewajiban moderasi (Pasal 9 ayat (3) dan Pasal 10), menyediakan informasi pengguna untuk kepentingan pengawasan/penegakan hukum, serta melakukan take down terhadap konten terlarang.

Dalam konteks ini, fokus pengawasan tidak hanya pada perilaku pengguna, tetapi juga pada desain pengamanan, moderasi, dan respons platform atas potensi penyalahgunaan fitur AI.