Agen AI Terus Bikin Ulah, OpenAI Kirim Peringatan ke 100 Perusahaan

Uzone.id — Masalah agen AI yang bertindak di luar ekspektasi terus menghantui OpenAI. Perusahaan di balik ChatGPT tersebut bahkan sudah memberitahu lebih dari 100 organisasi mengenai insiden aktivitas tidak sah yang dilakukan oleh agen AI mereka ke perusahaan-perusahaan tersebut.

Informasi tersebut disampaikan OpenAI melalui sebuah unggahan blog pada Senin, (05/10). 

“Pada 26 September, tim kami telah memberi tahu lebih dari 100 organisasi tentang aktivitas yang memenuhi kriteria pemberitahuan kami,” kata perwakilan OpenAI dalam blog mereka, dikutip dari Notebook Check. 

Kasus ini muncul ketika perusahaan-perusahaan AI menghadapi ancaman dari agen-agen AI yang bertingkah di luar kendali.

OpenAI mengakui bahwa dalam sejumlah kasus, model AI mereka menggunakan akses internet dengan cara yang tidak sesuai dengan tujuan awal. Perusahaan juga mengakui pembatasan yang diterapkan pada beberapa model ternyata belum ideal.

“Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak dimaksudkan atau, jika dilihat kembali, tidak menerapkan pembatasan yang ideal,” tambah OpenAI.

OpenAI pun mengungkap kalau selama beberapa bulan terakhir perusahaan pun sudah menerapkan langkah teknis dan operasional baru untuk mencegah masalah serupa terjadi atau mendeteksinya sedini mungkin.

“Selama beberapa bulan terakhir, kami telah menerapkan langkah-langkah teknis dan operasional baru untuk menghindari masalah serupa, atau mendeteksinya sejak dini, dan kami akan terus melakukan pekerjaan ini,” jelas OpenAI.

Gak main-main, perusahaan menyisir sekitar 50 petabyte data untuk mengetahui cakupan penuh dari aktivitas agen AI mereka. Dengan skala data sebesar itu, proses investigasinya pun diperkirakan tidak akan selesai dalam waktu singkat.

Untuk saat ini, OpenAI telah memberi informasi ke lebih dari 100 organisasi mengenai insiden yang melibatkan aktivitas tidak sah oleh agen AI mereka.

Tapi, jumlah organisasi maupun aktivitas yang terdampak masih berpotensi berkembang seiring berjalannya investigasi yang kemungkinan membutuhkan waktu berbulan-bulan untuk diselesaikan.

Peninjauan besar-besaran ini dilakukan setelah insiden peretasan yang secara tidak sengaja melibatkan Hugging Face dimana agen AI mereka malah menyusup pada sistem mereka. Insiden ini dianggap ini menjadi aktivitas rogue agent paling serius yang ditemukan OpenAI dari model AI miliknya.

Gak cuma itu, peninjauan ini juga dilakukan setelah OpenAI mendapat surat terbuka dari pemerintah Australia karena sistem mereka berhasil diobrak-abrik oleh agen AI milik OpenAI.

Kejadian tersebut kemudian mendorong perusahaan Sam Altman tersebut melakukan pemeriksaan yang lebih luas terhadap aktivitas model-model AI mereka untuk mencari tahu apakah ada kejadian serupa di tempat lain dan melibatkan perusahaan lain.