Mayoritas Organisasi di Indonesia Berani Serahkan Keputusan ke AI

Uzone.id - Sebanyak 91 persen organisasi di Indonesia lebih percaya dan cenderung membiarkan AI mengambil keputusan tanpa campur tangan manusia untuk proses yang rutin. Namun, ketika menyangkut soal transaksi keuangan, tingkat kepercayaan terhadap AI turun menjadi 55 persen.

Tingginya tingkat kepercayaan tersebut cukup menarik, mengingat 64 persen organisasi di Indonesia mengaku pernah mengalami AI yang bertindak sendiri dan menghasilkan masalah atau keluaran yang tidak diinginkan.

Bukan cuma itu, meski 96 persen organisasi di Indonesia yakin bisa menjelaskan keputusan yang dibuat oleh AI mereka, hanya 34 persen yang benar-benar menyimpan rekam jejak lengkap dan antimanipulasi untuk membuktikannya.

Temuan ini berasal dari laporan bertajuk ‘APAC State of Digital Trust: AI Governance Benchmark’ yang dirilis oleh Sumsub. Survei tersebut melibatkan 720 profesional senior dari 9 negara di Asia Pasifik, termasuk Indonesia.

Sumsub menyebut kesenjangan ini sebagai Accountability Asymmetry. Maksudnya, organisasi semakin berani menyerahkan keputusan kepada AI, tapi belum tentu bisa membuktikan apa saja yang dilakukan oleh sistem tersebut.

Baca Juga :

Mini Drama AI Disusupi Judol hingga Pornografi, Komdigi Mulai Waspada

Apalagi, penggunaan AI di perusahaan sekarang mulai bergeser ke arah agentic AI. Bukan sekadar membantu menyelesaikan pekerjaan saja, agentic AI juga bisa merencanakan, mengambil keputusan, sampai bertindak mewakili perusahaan.

Badan Riset dan Inovasi Nasional (BRIN) menilai, perkembangan tersebut membuka banyak peluang. Namun, pengembangan AI tetap perlu dilakukan secara adaptif dan bertanggung jawab.

Sebab dalam setahun terakhir, sebanyak 94 persen organisasi di Indonesia juga pernah menggunakan sistem AI di luar tujuan awalnya. Artinya, peran AI yang berjalan sekarang bisa saja berbeda dari fungsi yang sebelumnya disetujui.

Sementara itu, 56 persen organisasi menyebut kualitas data sebagai kekhawatiran terbesar ketika AI bertindak mewakili mereka. Persentase ini menjadi yang tertinggi dibandingkan negara lain di Asia Pasifik.

Hampir seluruh organisasi yang disurvei juga menginginkan sistem AI yang lebih mudah dilacak. Sebanyak 99 persen responden mengaku siap menggunakan solusi yang dapat menghubungkan setiap tindakan AI dengan orang yang bertanggung jawab.

Penny Chai, Vice President APAC Sumsub mengatakan, besarnya potensi AI perlu diimbangi dengan kemampuan organisasi untuk menunjukkan bagaimana teknologi tersebut digunakan.

“Organisasi di Indonesia melihat potensi AI yang sangat besar, tetapi adopsinya perlu dibarengi kemampuan untuk menunjukkan bagaimana AI itu dipakai, melacak keputusan yang diambilnya, dan memastikan siapa yang bertanggung jawab,” ujar Penny, dalam keterangan pers yang kami terima.

Penny mengatakan, masalah akuntabilitas akan semakin penting seiring AI diberikan tanggung jawab yang lebih besar di dalam perusahaan. 

Lebih lanjut, organisasi bukan cuma perlu mengetahui keputusan apa yang dibuat oleh AI, tapi juga memastikan sistem tersebut bekerja sesuai tujuan awalnya dan tetap berada di bawah pengawasan manusia.

Regulasi penggunaan AI mulai disiapkan

Tekanan untuk memperkuat tata kelola AI juga datang dari sisi regulasi. Otoritas Jasa Keuangan (OJK) telah menerbitkan Panduan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia.

Panduan tersebut menetapkan standar minimum bagi bank dalam mengelola AI di sepanjang siklus hidupnya, mulai dari manajemen risiko sampai proses audit.

Pemerintah juga tengah menyiapkan dua Peraturan Presiden mengenai Peta Jalan AI Nasional dan Etika AI. Kedua aturan tersebut kini tinggal menunggu tanda tangan Presiden sebelum resmi berlaku.

Berkaca dari hasil survei tersebut, Sumsub membentuk Agentic AI Council, forum lintas sektor yang mempertemukan para pakar dari bidang kebijakan, teknologi, akademik, industri, sampai masyarakat sipil di kawasan Asia Pasifik.

Forum ini akan membahas panduan dan kerangka kerja untuk penggunaan agentic AI yang lebih bertanggung jawab.

Pertemuan perdananya dijadwalkan berlangsung pada kuartal pertama 2027, dengan kelompok kerja awal yang berfokus pada agentic commerce atau penggunaan agen AI untuk bertindak mewakili konsumen dan pelaku bisnis.

Baca Juga :

Mantan Bos Twitter Rilis ‘Dessa’, AI yang Bisa Ngobrol Mirip Manusia

Survei APAC State of Digital Trust: AI Governance Benchmark sendiri dilakukan secara independen oleh Blackbox Research bersama Singapore FinTech Association pada periode April sampai Juni 2026.

Riset tersebut melibatkan profesional senior dari Australia, China, Hong Kong, India, Indonesia, Malaysia, Filipina, Singapura, dan Thailand.

Para responden berasal dari empat sektor, yakni jasa keuangan, layanan TI dan perangkat lunak, e-commerce, serta platform mobilitas dan pengantaran. Seluruh responden merupakan pengambil keputusan yang bertanggung jawab langsung atas strategi, penerapan, atau pengawasan risiko AI di perusahaan masing-masing.