Penipuan Deepfake AI Bikin Warga RI Rugi hingga Rp9 Triliun

Uzone.id—Perkembangan AI yang pesat saat ini turut meningkatkan ancaman penipuan diinternet.Salah satu yang marak ditemukan adalah video deepfake yangsering kali memalsukan wajah maupun suara seseorang.

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi) NezarPatria mengatakan penyalahgunaan AI melalui teknologi deepfake ini jaditantangan baru yang perlu diantisipasi, baik dari sisi keamanan digital maupunetika pengembangan AI.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisaditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengansangat mulus,” ujarnya dalam acara Indonesia Ethical AI Summit, dikutip Kamis,(18/06).

Ia mengungkap bahwa penjahat siber seringkali memanfaatkanteknologi ini untuk menipu masyarakat dan memeras data pribadi hingga hartamereka. Bahkan, kerugian yang tercatat sudah mencapai triliunan rupiah akibatmodus penipuan ini.

“Kita melihat bagaimana AI digunakan oleh pelaku kejahatansiber untuk berbagai bentuk penipuan atau scam. Kerugian yang dicatat oleh OJKpada tahun ini sekitar Rp9 triliun, dan banyak diantaranya yang menggunakandeepfake,” ujarnya lagi, dikutip dari berbagai sumber.

Saat ini, penipuan konten berbasis AI semakin berkembanghingga berada di level synthetic reality atau realitas sintetis, dimanamasyarakat semakin sulit membedakan antara konten asli dan hasil rekayasa.

"Awamnya masyarakat kita tentang perkembangan AI inimembuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,"tambah Nezar.

Untuk mengurangi kasus scam dan menekan angka kerugian yangdisebabkan oleh pemanfaatan AI yang tidak bertanggung jawab, Nezar menilaipengembang perlu menerapkan prinsipethics by designdengan menghadirkantransparansi, akuntabilitas, dan keamanan sejak tahap perencanaan hinggapengembangan produk AI.

"Transparency, accountability, safety,itu harushadir di dalam implementasi, di dalam pengembangan satu produk AI,"tegasnya.

Nezar pun mendorong kolaborasi antara pemerintah, pelakuindustri, akademisi, dan komunitas AI untuk memperkuat tata kelola sertamitigasi risiko sejak awal pengembangan teknologi.