Penipuan Deepfake AI Bikin Warga RI Rugi hingga Rp9 Triliun

Uzone.id — Perkembangan AI yang pesat saat ini turut meningkatkan ancaman penipuan di internet. Salah satu yang marak ditemukan adalah video deepfake yang sering kali memalsukan wajah maupun suara seseorang.

Wakil Menteri Komunikasi dan Digital (Wamen Komdigi) Nezar Patria mengatakan penyalahgunaan AI melalui teknologi deepfake ini jadi tantangan baru yang perlu diantisipasi, baik dari sisi keamanan digital maupun etika pengembangan AI.

“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujarnya dalam acara Indonesia Ethical AI Summit, dikutip Kamis, (18/06).

Ia mengungkap bahwa penjahat siber seringkali memanfaatkan teknologi ini untuk menipu masyarakat dan memeras data pribadi hingga harta mereka. Bahkan, kerugian yang tercatat sudah mencapai triliunan rupiah akibat modus penipuan ini.

“Kita melihat bagaimana AI digunakan oleh pelaku kejahatan siber untuk berbagai bentuk penipuan atau scam. Kerugian yang dicatat oleh OJK pada tahun ini sekitar Rp9 triliun, dan banyak diantaranya yang menggunakan deepfake,” ujarnya lagi, dikutip dari berbagai sumber.

Saat ini, penipuan konten berbasis AI semakin berkembang hingga berada di level synthetic reality atau realitas sintetis, dimana masyarakat semakin sulit membedakan antara konten asli dan hasil rekayasa.

"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tambah Nezar.

Untuk mengurangi kasus scam dan menekan angka kerugian yang disebabkan oleh pemanfaatan AI yang tidak bertanggung jawab, Nezar menilai pengembang perlu menerapkan prinsip ethics by design dengan menghadirkan transparansi, akuntabilitas, dan keamanan sejak tahap perencanaan hingga pengembangan produk AI.

"Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," tegasnya.

Nezar pun mendorong kolaborasi antara pemerintah, pelaku industri, akademisi, dan komunitas AI untuk memperkuat tata kelola serta mitigasi risiko sejak awal pengembangan teknologi.