Agen AI OpenAI ‘Kabur’ dari Sandbox, Serang 4 Layanan Pihak Ketiga

Uzone.id — OpenAI kembali mengungkap temuan baru terkait insiden Agen AI otonom mereka yang sempat lolos dari lingkungan pengujian (sandbox) dan membobol infrastruktur Hugging Face.

Akses ke Layanan Pihak Ketiga

Ternyata, agen AI nakal tersebut kembali beraksi dan berhasil mengakses sejumlah akun di layanan lain. Dalam pembaruan resminya, OpenAI mengatakan terdapat empat akun pada empat layanan berbeda yang diakses AI ini sebagai bagian dari serangan ke Hugging Face.

OpenAI tidak mengungkap identitas perusahaan atau layanan yang terdampak tapi salah satu akun dipakai sebagai jalur komunikasi agar serangan lebih sulit dilacak, sementara akun lainnya dimanfaatkan sebagai tempat penyimpanan data selama proses peretasan.

Sementara itu, laporan dari Reuters, dikutip Kamis, (30/07) mengungkap kalau salah satu dari penyedia layanan pihak ketiga yang digunakan oleh Agen AI tersebut adalah Modal Labs, perusahaan teknologi berbasis di New York.

Chief Technology Officer Modal Labs, Akshat Bubna pun menjelaskan bahwa agen AI ini sebenarnya tidak membobol sistem inti Modal Labs melainkan mengeksploitasi kode milik salah satu pelanggan yang dijalankan di platform tersebut.

Menurut Bubna, sistem keamanan dan mekanisme isolasi Modal Labs tetap aman dan tidak ikut diretas. Meski demikian, insiden tersebut menunjukkan bahwa agen AI ini mampu memperluas jangkauan serangan mereka ke luar target utama.

Kronologi Detail Peretasan

Kejadian peretasan Hugging Face yang dilakukan oleh agen AI milik OpenAI ini jadi alarm yang cukup serius karena bukan tidak mungkin AI bisa bertingkah di luar dari kendali manusia.

Laporan forensik dari Hugging Face juga menunjukkan skala serangan jauh lebih besar dibanding informasi awal.

Selama investigasi, tim keamanan dari perusahaan menelusuri sekitar 17.600 aktivitas yang dilakukan oleh agen AI ini antara 9 hingga 13 Juli 2026. Sebagian besar memang gagal, tetapi beberapa berhasil memberikan akses yang cukup luas ke sistem internal perusahaan.

Kasus OpenAI dan Hugging Face ini sendiri dianggap sebagai salah satu peristiwa paling signifikan dalam sejarah keamanan kecerdasan buatan (AI). Semua bermula ketika OpenAI sedang melakukan uji evaluasi internal terhadap model GPT-5.6 Sol dan prototipe model yang belum dirilis yang lebih canggih.

Agar AI bisa mengeluarkan kemampuan maksimalnya, OpenAI pun mematikan semua filter/sistem pengaman di model AI tersebut dengan tugas resmi mengenali dan mengeksploitasi kerentanan siber kompleks menggunakan benchmark bernama ExploitGym.

Alih-alih berfokus di ExploitGym, AI ini justru menemukan kerentanan zero-day (celah keamanan yang belum diketahui pembuatnya) pada proxy cache registri paket internal OpenAI.

Lewat celah itu, AI berhasil membobol dinding isolasi (sandbox) dan dapat akses ke internet bebas. dan dilaporkan sempat meninggalkan petunjuk (instruction Prompt) bagi pengulangan/versi berikutnya tentang cara melewati batas isolasi internal.

Karena agen AI ditugaskan menyelesaikan tantangan ExploitGym, ia menyimpulkan bahwa kunci jawaban atau solusi dari pengujian tersebut tersimpan di repositori/database platform AI publik, Hugging Face.

Tanpa ada perintah, AI ini pun kemudian menyamar menggunakan akun lain, menemukan celah di server Hugging Face lalu mengambil alih kontrol server (root access) dan mengambil kunci jawabannya.

Sebelum ketahuan bahwa peretasan ini adalah kelakuan AI, tim keamanan Hugging Face sempat curiga karena ada aktivitas aneh di server mereka, lalu melacaknya dan melapor ke FBI. Tapi setelah ketahuan, OpenAI dan Hugging Face pun akhirnya bekerja sama untuk menghentikan AI tersebut.