Komdigi Tegur Grok soal Editan Tak Senonoh, Siap Blokir Jika Tak Patuh

Uzone.id—KementerianKomunikasi dan Digital (Komdigi) menindak adanya dugaan penyalahgunaan Grok AIuntuk editan foto tak senonoh yang ramai terjadi di platform X. 

Dalam penyelidikannya, Komdigi menemukan bahwa Grok AI tidakmemiliki aturan jelas untuk mencegah hal ini terjadi. Hal inipun disampaikan oleh Direktur Jenderal Pengawasan Ruang Digital, AlexanderSabar dalam keterangan resminya, Rabu, (07/01/2026).

“Temuan awal menunjukkan belum adanya pengaturan spesifikdalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan danpenyebaran konten pornografi berbasis foto pribadi,” kata Alexander.

Menurutnya, kondisi ini pun berpotensi melanggar hak privasidan hak atas citra diri(right to one’s image)pengguna, khususnya ketika fotoseseorang diedit lalu disebarluaskan tanpa persetujuan yang sah.

Komdigi pun tengah berkoordinasi dan mengingatkan platform X untuk mematuhiperaturan Indonesia. Jika tidak, ancaman hukuman administratif hinggapemblokiran pun menanti Grok AI dan X.

“Apabila ditemukan ketidakpatuhan atau sikap tidakkooperatif, Kemkomdigi dapat menjatuhkan sanksi administratif hingga pemutusanakses layanan Grok AI dan platform X,” tulis Komdigi.

Hukuman juga akan dijatuhkan pada pengguna platform yangjuga terbukti memproduksi dan/atau menyebarkan konten pornografi baik itu asliatau editan tanpa hak akan dikenakan sanksi administratif dan/atau pidanasesuai ketentuan hukum yang berlaku.

Oleh karena itu, Komdigi meminta X dan platform PSE untukmemperkuat sistem moderasi konten, pencegahan pembuatan deepfake asusila, sertaprosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.

“Setiap PSE wajib memastikan bahwa teknologi yang merekasediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupunperusakan martabat seseorang,” tegas Alexander.

Masyarakat yang menjadi korban pun bisa menempuh jalur hukumdengan mekanisme yang tersedia dalam peraturan perundang-undangan, termasukmelapor pada penegak hukum dan pengaduan kepada Kemkomdigi.

Pasalnya, editan foto pribadi yang tak pantas ini sudah termasuk dalam perampasan kendali individu atasidentitas visualnya yang dapat menimbulkan kerugian psikologis, sosial, danreputasi.

Aturan soal konten tak pantas atau konten pornografi inisendiri sudah tercantum dalam Undang-Undang Nomor 1 Tahun 2023 tentang KitabUndang-Undang Hukum Pidana (KUHP) Pasal 172 dan Pasal 407. 

Pasal 172 mendefinisikan pornografi sebagai media yangmemuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan,sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam)bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.