Apa Itu AI Slowdown? Saat Bos AI Mulai Minta Pengembangannya Direm

Uzone.id – Ada situasi yang cukup paradoks di industri teknologi saat ini. Para bos perusahaan yang berlomba membuat kecerdasan buatan (AI) semakin pintar justru mulai menyerukan agar perkembangan teknologi tersebut diperlambat. Muncullah istilah “AI Slowdown”.

Bukan karena mereka tiba-tiba kehilangan minat terhadap AI, atau perusahaan-perusahaan tersebut ingin menghentikan pengembangan AI.

Dario Amodei, CEO Anthropic, menjadi salah satu tokoh yang paling terang-terangan menyerukan hal tersebut.

Dalam esainya berjudul ‘We Must Pace the Frontier’, Amodei mengatakan pengembangan kemampuan AI perlu diperlambat agar upaya mitigasi risikonya punya waktu untuk mengejar perkembangan teknologi.

Kekhawatiran Amodei muncul karena kemampuan AI berkembang semakin cepat, sementara kemampuan manusia untuk memahami, menguji, dan mengendalikan teknologi tersebut belum tentu bisa mengejarnya.

“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan tetap akan terasa cepat, dan kita harus menggunakan waktu yang kita dapatkan dengan bijak,” tulis Amodei.

Dengan kata lain, konsep “pacing the frontier” yang dimaksud adalah tetap mengembangkan AI, tetapi dengan laju yang memungkinkan sistem keselamatan, evaluasi, dan pengawasan ikut berkembang.

Ia juga mengusulkan tiga langkah, termasuk menghadirkan evaluator independen yang dapat mengawasi sistem AI dari dalam perusahaan, membangun standar keselamatan bersama di antara negara-negara demokratis, serta mendorong koordinasi global.

Yang membuat wacana ini menarik adalah respons dari perusahaan AI lain yang selama ini menjadi rival.

CEO OpenAI Sam Altman menyatakan setuju dengan gagasan untuk memperlambat laju pengembangan AI. Ia juga mendukung penggunaan evaluator independen yang memiliki akses ke sistem perusahaan untuk memastikan standar keselamatan dipatuhi.

Elon Musk pun memberikan dukungan singkat terhadap gagasan Amodei. Sementara itu, Demis Hassabis, salah satu pendiri Google DeepMind, juga termasuk tokoh yang mendukung perlunya pendekatan lebih hati-hati terhadap perkembangan AI.

Siapa yang Berhak Menekan Tombol Rem?

Kekhawatiran terhadap AI memang bukan tanpa alasan. Dalam beberapa pekan terakhir, industri AI menghadapi sejumlah kasus yang kembali memunculkan pertanyaan tentang kemampuan manusia mengendalikan sistem yang semakin otonom.

Salah satunya adalah insiden yang melibatkan swarm AI dari OpenAI yang dilaporkan keluar dari lingkungan pengujian dan melakukan serangkaian aktivitas terhadap platform Hugging Face.

Mengutip The Guardian, Amodei menggunakan insiden tersebut sebagai salah satu contoh mengapa perkembangan kemampuan AI perlu diimbangi dengan sistem keselamatan yang lebih kuat. Ia memperingatkan bahwa sistem dengan kemampuan lebih tinggi tetapi tingkat misalignment yang sama berpotensi menimbulkan kerusakan jauh lebih besar.

Tetapi ketika perusahaan-perusahaan terbesar di industri yang sama mulai membicarakan perlambatan secara bersama-sama, muncul pertanyaan lain: apakah ini murni soal keselamatan?

Sejumlah kritikus mempertanyakan apakah kesepakatan antarperusahaan untuk memperlambat perkembangan AI berpotensi mengurangi persaingan.

Bahkan muncul persoalan antitrust karena perusahaan-perusahaan yang menjadi rival bisa saja secara bersama-sama menyepakati laju pengembangan yang lebih lambat daripada yang akan terjadi dalam kompetisi normal.

Dengan kata lain, ada perbedaan antara sebuah perusahaan memutuskan sendiri untuk lebih berhati-hati dan para pemain terbesar di industri sepakat bahwa semuanya akan mengurangi kecepatan.

Perdebatan tersebut akhirnya mengarah pada pertanyaan yang lebih besar: apakah yang sebenarnya dibutuhkan AI adalah perlambatan, atau aturan keselamatan yang lebih kuat?

Amodei sendiri tidak menyerukan penghentian AI. Ia mengatakan AI tetap berpotensi memberikan manfaat besar bagi manusia, tetapi perlombaan komersial untuk membangun model yang semakin kuat dapat membuat risiko menjadi semakin besar.

Di sisi lain, tidak semua pemimpin teknologi sepakat bahwa memperlambat perkembangan AI adalah jawabannya. CEO Nvidia Jensen Huang, misalnya, menolak gagasan untuk memperlambat kemajuan AI dan menekankan bahwa perusahaan tetap bisa mengembangkan teknologi dengan bertanggung jawab.

Artinya, industri AI kini menghadapi dilema yang cukup unik.

Mereka harus terus berinovasi karena persaingan teknologi, termasuk dengan China, tidak berhenti. Namun, semakin cepat kemampuan AI berkembang, semakin besar pula pertanyaan tentang apakah manusia benar-benar siap mengendalikan teknologi tersebut.