Grok Picu Amarah Global Gara-gara Editan Foto AI

Uzone.id— Awal tahun 2026jadi awal yang suram untuk Elon Musk dan produk AI miliknya, Grok AI. Gara-garakepintaran dan ‘kepatuhan’ Grok, Elon Musk harus menghadapi teguran dan kecamandari berbagai negara.

Semua berawal dari pengguna di X yang meminta Grok AI untukmen-generate foto pengguna lain dengan editan tak pantas dan bernada pelecehan.Korbannya kebanyakan adalah perempuan dan juga anak-anak sehingga menimbulkankeresahan berbagai pihak.

Meski Elon Musk, tim Safety X serta tim xAI akan menindaktegas hingga memblokir pengguna yang melanggar, namun kecaman dan teguran dariberbagai negara, termasuk dari Indonesia terus dilayangkan pada platform tersebut.

Dirjen Pengawasan Digital Komdigi pada Rabu, (07/01), telah melakukanpenyelidikan dan meminta X untuk segera memperbaiki kebijakan mereka. Jikanantinya X tidak mematuhi aturan yang sesuai dengan UU di Indonesia, Grokkemungkinan akan menghadapi hukuman administratif hingga pemblokiran akses diIndonesia.

Malaysia juga sudah lebih dulu menegur X dan mengatakan akanmenyelidiki platform tersebut sebagai imbas dari kasus ini. Kementerian Komunikasi dan Multimedia Malaysia menyatakanbahwa pihaknya telah mencatat dengan keprihatinan serius keluhan publikmengenai penyalahgunaan AI di platform X.

Saat ini, Malaysia pun sedang menyelidiki dampak negatifonline di platform X sebelum nantinya akan mengambil tindakan serius.

India juga turut mengecam X, Menteri Teknologi InformasiIndia mengeluarkan perintah agar X melakukan perubahan teknis dan proseduralsegera pada chatbot AI-nya, Grok. Mereka meminta X untuk membatasi pembangkitankonten yang melibatkan "ketelanjangan, seksualitas, eksplisit seksual,atau materi ilegal lainnya". 

India juga memberi waktu 72 jam pada X untuk melaportindakan yang telah diambil untuk mencegah hosting atau penyebaran konten yangdianggap "cabul, pornografi, vulgar, tidak senonoh, eksplisit secaraseksual, pedofilia, atau dilarang oleh hukum."

Prancis pun melakukan hal yang sama, Kantor Kejaksaan Paristengah menyelidiki penyebaran deepfake bermuatan seksual di platform X setelahmendapat laporan dari tiga menteri. Setelah itu, pihaknya akan melakukanpemantauan dan meminta X untuk segera melakukan penghapusan konten-kontentersebut.

Inggris dan beberapa negara Eropa lainnya juga mendesak ElonMusk untuk segera menangani penyebaran gambar 'deepfake' intim di platformnya. Dalam laporan Reuters, regulator Inggris Ofcom bahkan telah mendesak X dan xAIterkait kasus ini dan tengah menilai lebih lanjut apakah ada "masalahkepatuhan yang memerlukan penyelidikan."

 Saat ini, belum ada tindakan pemblokiran yang diambil oleh negara-negara tersebut, namun jika X dan xAI gagal dalam mematuhi aturan dari masing-masing negara, potensi pencabutan akses Grok AI pun akan terbuka lebar.