Sepakat dengan Eks Karyawan, Bos Anthropic Akui AI Ancam Umat Manusia

Uzone.id — Perkembangan AI yang semakin cepat ternyata membuat pembuatnya ikut khawatir. Setelah mantan stafnya yang speak up, kini giliran CEO sekaligus pendiri Anthropic, Dario Amodei, yang ikut mengakui kalau AI memiliki risiko nyata dan tidak bisa diabaikan.

“Saya tidak akan berbohong kepada kalian, ada bahaya yang nyata. Dan menurut saya, industri ini terlalu lama berbohong kepada orang-orang tentang fakta bahwa teknologi ini memiliki risiko,” kata Amodei, dikutip dari CBS News, Senin, (13/09).

Ungkapan ini disampaikan Amodei setelah munculnya peringatan dari Jacob Coxon, mantan peneliti Anthropic yang menyebut kalau Anthropic dan OpenAI sedang “mempertaruhkan hidup manusia” lewat pengembangan AI superintelligence, yaitu AI yang bisa meningkatkan kemampuannya sendiri tanpa bantuan manusia.

Coxon bahkan memperingatkan kalau gambaran AI dalam film fiksi ilmiah mirip seperti Terminator.

“Ini sebenarnya tidak jauh berbeda dari, misalnya, 'Terminator' atau film-film fiksi ilmiah. AI tersebut akan menjadi cukup pintar untuk membunuh kita,” ujar Coxon.

Dalam interview tersebut, Amodei mengakui kalau perkembangan teknologi ini semakin lama semakin curam, bahkan ia menyerukan agar industri teknologi bekerja sama untuk memperlambat laju perkembangan kemampuan AI.

Meski begitu, ia menegaskan bahwa memperlambat perkembangan AI bukan berarti Anthropic akan berhenti membuat dan merilis model yang lebih canggih. Menurut Amodei, setiap model baru harus diuji dengan benar sebelum dirilis.

“Ini bukan berarti begitu. Maksudnya adalah kita harus memastikan setiap generasi model yang kita rilis telah diuji dengan baik,” ujarnya.

Meski sudah mengakui kalau AI berkembang sangat cepat, Amodei tetap meminta semua pihak untuk tenang dan mengatakan kalau dengan kondisi tersebut bukan berarti semua orang harus panik atau pengembangan AI harus dihentikan.

“Ini bukan berarti kita harus panik sekarang. Ini juga bukan berarti kita harus menghentikan semuanya. Tapi saya akan mengatakan ini adalah tanda peringatan. Ini adalah tanda peringatan bahwa kita perlu memperlambatnya,” katanya.

Oleh karena itu, untuk membantu mengawasi keamanan AI, Anthropic berencana memberikan akses permanen kepada evaluator independen untuk menguji model mereka.

Sebelumnya, cuitan dari Jacob Coxon, peneliti AI yang 3 tahun bekerja di Anthropic bikin geger netizen karena mengungkap bahaya AI super canggih yang tengah dikembangkan oleh perusahaan-perusahaan AI ini.

“Saya mengundurkan diri dari Anthropic hari ini. Saya menghabiskan 3 tahun terakhir saya untuk penelitian pra-pelatihan di OpenAI dan Anthropic. Kedua perusahaan sayangnya tidak bertindak secara bertanggung jawab. Mereka berlomba-lomba menuju AI super intelijen yang mampu mengembangkan diri sendiri dan mempertaruhkan nyawa kita,” kata Coxon dalam postingannya di X, Rabu, (10/09).

Dengan lantang, Coxon membocorkan bahwa orang-orang yang juga membangun teknologi ini percaya kalau self-developing super intelligence AI bisa membunuh umat manusia pada tahun 2030 mendatang.

Pernyataan Coxon ini didukung oleh peneliti AI lainnya di Anthropic yaitu Evan Hubinger. Ia mengungkap kalau potensi AI ‘membunuh’ manusia bahkan lebih dari 10 persen.

“Pernyataan Jacob benar adanya, kami (peneliti AI) percaya bahwa AI bisa membunuh seluruh umat manusia! Saya sendiri memperkirakan kalau kemungkinannya lebih dari 10 persen dalam satu dekade ke depan,” ujar Evan.

Pernyataan Jacob Coxon mengenai bahaya AI dengan model self-developing super intelligence ini mendapatkan tanggapan yang sangat luas dari pengguna X. Cuitan tersebut sudah dilihat lebih dari 169 juta pengguna per Senin, (14/09) dengan repost mencapai 203 ribu kali dan likes 793 ribu kali.