Drone Emprit Soal Deepfake: Kengerian AI hingga Ancaman Tipuan di 2023

Uzone.id – Teknologi AI (artificial intelligence) bak pisau bermata dua. AI dapat membantu mempermudah hidup dengan kecanggihannya, namun juga dapat menjadi ancaman penipuan. Salah satunya dari kehadiran teknologi deepfake.

Deepfake merupakan materi rekayasa yang dibuat dengan memanfaatkan teknologi AI untuk mengubah foto, audio, hingga video menyerupai aslinya.

Deepfake erat kaitannya dengan penyebaran hoaks, sebab si kreator dapat memanipulasi konten asli dengan rekayasa wajah atau audio yang ia inginkan, lalu menyebarkannya ke media sosial, seolah-olah video tersebut adalah asli.

Platform analisis media digital, Drone Emprit yang dikenal berkat hasil analisisnya yang membongkar peta penyebaran hoaks dan tren viral pun turut angkat bicara soal potensi tipuan dari deepfake yang belakangan kembali mencuat.

Founder Drone Emprit, Ismail Fahmi mengakui bahwa deepfake –khususnya dalam format video– bisa saja menjadi tren baru di 2023.

Baca juga: Begini Tips Kenali Video Hasil Rekayasa Deepfake

“Deepfake termasuk teknologi AI yang ngeri, menyeramkan. Belakangan ramai lagi, dan sebenarnya kalau melihat AI secara umum, bisa saja untuk seru-seruan. Tapi, kalau menjadi subjek itu orang penting atau yang punya kuasa, bisa chaos,” ungkap Ismail saat berbincang dengan Uzone.

Salah satu potensi berbahaya dari deepfake, menurut Ismail, teknologi ini dapat menggabungkan beberapa material seperti background yang dapat diatur, suara yang diubah, agar konten video terlihat begitu asli.

“Memang menyeramkan, tapi kita harus bersiap-siap saja kalau itu terjadi. Lalu bagaimana supaya siap menghadapinya? Harus edukasi,” lanjut Ismail.

Ia mengambil contoh negara Finlandia. Di sana, institusi atau lembaga pendidikan bergerak secara mandiri dalam melakukan pendekatan direct (langsung) kepada masyarakat lanjut usia dan para orang tua untuk memberikan edukasi mengenai teknologi terbaru.

“Orang tua belum tentu update soal teknologi terbaru, seperti deepfake. Di Finlandia itu, teknologi seperti deepfake pun diajarkan, karena mereka tahu serangan hoaks selalu terjadi. Mereka diundang ke sekolah cucu-cucunya, ke perpustakaan untuk diedukasi soal teknologi terbaru. Kalau mengandalkan pemerintah hanya untuk diberi info mana yang hoaks, terlambat,” kata Ismail.

Menurutnya, edukasi secara langsung itu krusial sifatnya agar dapat membentuk critical thinking masyarakat yang dapat berguna untuk menyaring secara mandiri soal informasi akurat dan hoaks.

Jika contohnya deepfake, dari penuturan Ismail, institusi pendidikan Finlandia tak akan segan mengajarkan bagaimana cara kerja teknologi AI ini hingga potensinya untuk menipu masyarakat.

Baca juga: Meta Kepincut Upgrade Wikipedia Pakai Teknologi AI

“Edukasi seperti ini harus ada di Indonesia. Kalau enggak, gak akan bisa teredukasi. AI itu bisa digunakan untuk hal positif dan negatif. Goal dari edukasi itu adalah supaya masyarakat tidak langsung percaya ketika menyaksikan konten video viral. Mereka harus aware bahwa konten tersebut ada kemungkinan bikinan AI,” tukasnya.

Peran Drone Emprit melawan hoaks dan konten manipulasi

Jika membayangkan teknologi deepfake menjadi tren di 2023, tentu hal ini mengerikan. Drone Emprit sebagai platform big analysis, selama ini fokus pada analisis teks yang ramai di jagat maya, serta melakukan pemetaan analisis untuk membongkar asal-usulnya.

Sehingga, jika ada konten deepfake viral, Drone Emprit bukan berperan seperti polisi yang langsung memberi label bahwa konten tersebut hoaks atau palsu.

“Dari dulu kita bukan menganalisis apakah hal A itu hoaks atau bukan, itu bukan tujuan kita. Kita biasanya membongkar sesuatu yang memang berpotensi hoaks atau sesuatu yang viral, semua pakai data dari percakapan, dilihat trennya, nanti ketahuan siapa yang memulai, interaksinya bagaimana,” jelas Ismail.

Ia melanjutkan, “kalau deepfake dan viral, kita kemungkinan akan memonitor dulu, kata-kata apa yang muncul, kita analisis, lalu dari situ nanti bisa kelihatan kelompok mana yang menyebarkan. Kalau terbukti deepfake, nanti bisa tahu siapa yang menyebarkan, siapa saja korbannya, masyarakat jadi tahu peta penyebarannya. Ini hal yang ingin kontribusikan.”

Selebihnya, Ismail mengatakan kalau tren media sosial di tahun 2023 kemungkinan besar bakal menjadi lahan konten berbau politik dan kampanye menjelang Pemilu 2024.

“Buat anak muda, sering-seringlah eksplorasi soal netiquette, alias etika dalam menggunakan internet. Sederhana, agar kita semua bersikap bijak dan baik di dunia maya,” tutup Ismail.