Marak Deepfake, Komdigi Minta Meta Dkk Hadirkan Fitur Deteksi AI

Uzone.id—Kasusvideo provokasi menggunakan AI atau deepfake menimbulkan dampak yang cukupserius di tengah masyarakat. Selain sulit untuk diidentifikasi, deepfakeberpotensi menimbulkan masalah hingga perpecahan di kalangan warga digital.

Salah satunya, konten deepfake kerap disalahgunakan untukmelakukan penipuan digital dan menggiring opini publik, terutama pada isu-isupolitik.

Ketua Mafindo Septiaji Eko Nugroho menjelaskan jika adakonten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuandigital, kemungkinan mayoritas adalah deepfake.

Berangkat dari itu, Nezar Patria, Wakil Menteri Komunikasidan Digital menyampaikan permintaan baru mereka kepada platform media sosialyang beroperasi di Indonesia, mulai dari Facebook, Google, TikTok, Twitter atauX hingga YouTube.

Nezar Patria mengungkap bahwa platform digital biasanyamemiliki teknologi komputasi dan algoritma yang dapat dimanfaatkan untukkepentingan publik.

“Kalau kita meragukan satu isi konten, bisa dicek dengankekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google,fitur seperti ini bisa jadi bagian layanan standar,” jelas Nezar di kantor RRI,Jakarta, Selasa (09/09/2025).

Nezar pun meminta platform digital global untuk menghadirkanfitur pengecekan dalam mengenali konten yang dibuat oleh artificialintelligence atau AI, hal ini bertujuan untuk membantu masyarakat menangkalhoaks yang disebabkan oleh AI.

Tak hanya fitur, Nezar juga meminta platform media sosialuntuk melakukan filter atau setidaknya menyediakan fitur untuk mengecek apakahsebuah konten buatan AI atau bukan.

“Fitur ini sebaiknya bisa digunakan publik secara gratis,”tambahnya.

Permintaan Nezar ini juga menjadi respon atas hasil laporanData Sensity AI yang mencatat adanya peningkatan  terhadap kontendeepfake, mereka mencatat peningkatan ini mencapai 550 persen di lima tahunterakhir.

“Saya yakin jumlahnya jauh lebih besar karena kemampuanaplikasi untuk membuat video atau foto deepfake kini sangat masif,” tegasNezar.

Selain meminta kehadiran fitur, Nezar juga menjelaskan bahwapemerintah tengah berupaya menyeimbangkan inovasi dengan regulasi agarpemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks.

Saat ini, Indonesia sudah memiliki perangkat hukum sepertiUU ITE, UU PDP, PP TUNAS, dan sejumlah peraturan teknis untuk menghalau masalahtersebut. 

Pemerintah juga tengah menyiapkan regulasi khususpemanfaatan AI yang etis, bermakna, dan bertanggung jawab. Update terakhir,Komdigi tengah menggodok Perpres AI untuk memayungi penggunaan AI di Indonesiaserta menggandeng ekosistem luas dalam program cek fakta.

“Ruang digital ini milik kita bersama, maka kita perlu kerjasama yang erat untuk menjaga publik dari hoaks dan konten negatif,” tegas NezarPatria.