Deepfake AI Semakin Parah, Bikin Rugi Warga RI hingga Rp700 M
Uzone.id— Perkembangan AIyang makin pesat tidak hanya memudahkan masyarakat tapi juga menimbulkan risikobaru yang tidak main-main. Salah satu yang perlu diwaspadai adalah kontendeepfake ai yang banyak menyebar di media sosial.
Hal ini menjadi perhatian khusus bagi pemerintah, khususnyauntuk Kementerian Komunikasi dan Digital.
Nezar mengungkapkan bahwa jumlah kerugian akibat moduspenipuan dengan memanfaatkan AI dilaporkan telah mencapai Rp700 miliar sehinggaperlu upaya mitigasi untuk mencegah terjadinya kejahatan ini.
Sekarang ini banyak produk AI yang dibuat secara tidak etis dan dibuat untuk mengelabui masyarakat, salah satunya adalah dengan tidak mencantumkan keterangan bahwa konten tersebut dibuat oleh AI dan seakan-akan merupakan video asli.
"Kita masih melihat video atau gambar AI yang tidakmencantumkan logo produk AI. Saya pikir itu tidak etis," kata Nezar dalamacara KUMPUL Connect for Change Summit 2025, Selasa, (21/10).
Salah satu langkah yang diambil adalah penyusunan Peta JalanAI Nasional yang mengharuskan para pengembang AI bersikap akuntabel dantransparan. Tak hanya itu, Kemkomdigi juga melakukan edukasi kepada masyarakattentang bahaya deepfake berbasis AI.
"Kami mendorong semua pengembang untuk bersikap etis,transparan, dan akuntabel ketika mereka memproduksi platform berbasis AI,"tegasnya.
Untuk menekan risiko akibat penggunaan AI (khususnyadeepfake), Kemkomdigi akan bekerja sama dengan aparat penegak hukum terusmemperkuat penegakan hukum terhadap pelaku kejahatan siber melalui penerapanUndang-Undang Informasi dan Transaksi Elektronik (ITE), Undang-UndangPelindungan Data Pribadi (PDP), serta Kitab Undang-Undang Hukum Pidana (KUHP).