Agen AI Makin Ngeri: Bikin Wikipedia Eror sampai Ajukan Visa

Uzone.id — Setelah kasus Hugging Face dan penyusupan situs pemerintahan Australia, agen AI lagi-lagi bikin ulah dengan menyusup ke situs Wikimedia (induk dari Wikipedia), mengirim permohonan visa bahkan sampai ada yang memberikan informasi palsu tentang kasus pembunuhan kepada polisi.

Kasus-kasus ini melibatkan agen-agen AI dari perusahaan AI berbeda. Aktivitas pada layanan Wikimedia terjadi karena ulah agen OpenAI, sementara pengiriman formulir pemerintah dan informasi pembunuhan palsu dilakukan oleh agen milik Anthropic.

Agen AI OpenAI Susupi Wikimedia

Agen AI punya OpenAI dilaporkan telah menyusupi sistem Wikimedia Foundation, organisasi pengelola Wikipedia pada 5 Oktober 2026. Aktivitasnya mencakup penyuntingan tanpa izin, percobaan mengeksploitasi alat pencatatan, serta akses otomatis pada situs dalam jumlah besar yang bikin situs sempat terganggu.

Dalam keterangannya, mengeditan halaman ini terjadi di area sandbox, bukan pada halaman yang terlihat oleh pembaca umum. Sebenarnya, Wikimedia sendiri mengizinkan bot untuk melakukan penyuntingan dengan syarat mendapat persetujuan dari komunitas.

Tapi, dalam hal ini, agen AI sama sekali tidak pernah meminta izin tersebut. Bahkan, agen AI jug disebut melakukan perubahan pada alat sitasi punya Wikimedia demi mengambil data milik layanan lain.

Meski begitu, Wikimedia tidak menemukan bukti bahwa sistem maupun datanya berhasil dibobol.

“Kami tidak menemukan bukti bahwa sistem kami digunakan untuk koordinasi antar agen AI, maupun bukti bahwa sistem atau data kami berhasil dibobol,” tulis Wikimedia dalam pernyataannya.

Tak hanya itu, sebagian agen AI mencoba memanfaatkan Etherpad, alat pencatatan bersama yang disediakan Wikimedia, untuk mengambil data dari situs lain Untungnya, percobaan ini tidak berhasil.

Selain itu, agen AI ini juga berhasil membuat jutaan permintaan otomatis, menelusuri jutaan halaman, dan mengirim ratusan ribu kueri ke Wikidata Query Service. Alhasil hal ini membuat situs cukup kewalahan.

Wikimedia menyebut kalau trafik ini kemungkinan besar ikut berkontribusi pada gangguan sebagian layanan tersebut pada Mei 2026.

“Insiden seperti ini menunjukkan bagaimana agen AI dapat menguras sumber daya dan membuat server berhenti berfungsi, sekaligus mencoba mengganggu informasi yang dapat dipercaya,” tulis Wikimedia.

Permohonan Visa Palsu oleh Agen Anthropic

Selanjutnya, tindakan lain agen AI lainnya yang juga bikin geleng-geleng kepala adalah percobaan untuk mengajukan permohonan visa tanpa disuruh oleh manusia.

Model AI Anthropic dilaporkan mengirim 20 permohonan visa nonimigran melalui situs resmi Departemen Luar Negeri Amerika Serikat saat pengujiannya pada kurun waktu Mei hingga Agustus 2026.

Melansir dari Cybernews, Selasa, (13/10), satu permohonan dikirim pada Mei, sedangkan 19 lainnya pada Agustus 2026. Untungnya, seluruh permohonan tersebut tidak lengkap dan tidak jadi diproses oleh sistem.

Bukan cuma situs resmi Departemen Luar Negeri AS saja yang terkena dampak, Anthropic menyebut sejumlah situs instansi pemerintah AS lainnya juga ikut disusupi agen AI mereka yang saat itu sedang melakukan pengujian, mulai dari tingkat federal, negara bagian, hingga lokal.

Menurut pembelaan Anthropic, sebagian besar kejadian ini adalah bentuk persistence dari agen AI mereka, yaitu ketika agen Claude terus mencari jalan lain karena tidak bisa menyelesaikan tugas-tugas mereka.

Anthropic menilai dampak nyata kasus-kasus ini terbatas dan tingkat keparahannya lebih rendah dibandingkan insiden yang diungkap sebelumnya.

Laporan Pembunuhan Palsu oleh Agen Anthropic

Tindakan agen AI lainnya yang terjadi di luar kendali manusia adalah ketika agen AI Claude Haiku 4.5 dari Anthropic mengirimkan laporan kasus pembunuhan kepada kepolisian Kepolisian Philadelphia (PPD).

Kejadian ini terjadi pada 18 Juli 2026 dan bermula saat agen AI tersebut diminta untuk membuat dan menjalankan contoh tugas pada halaman web yang dipilih secara acak, agen AI ini kemudian membuka halaman tentang kasus pembunuhan yang belum terpecahkan.

Di halaman tersebut tersedia formulir untuk mengirim informasi kepada polisi. Claude sudah dilarang login atau memasukkan data pribadi, tetapi instruksi dinilai tidak secara tegas melarang pengiriman formulir sehingga agen tersebut pun tetap bertindak.

Agen itu kemudian mengisi dan mengirim informasi rekaan, seolah-olah pernah melihat seseorang yang berkaitan dengan kasus tersebut.

“Saya mungkin memiliki informasi mengenai kasus ini. Saya ingat melihat seseorang yang cocok dengan deskripsi di (sebuah jalan yang disebutkan dalam laporan) pada waktu tersebut. Silakan hubungi saya jika informasi ini relevan,” demikian isi kirimannya, dikutip dari Fox Business, Selasa, (13/10).

Laporan ini tentunya bikin geger. Pasalnya, menurut Anthropic, situs tersebut tidak mencantumkan deskripsi pelaku sama sekali. Kiriman agen Claude ini pun hanya ditandai sebagai spam dan tidak diteruskan untuk penyelidikan.

Kepolisian Philadelphia tentunya menyoroti secara serius kejadian ini, termasuk keterlambatan Anthropic dalam mendeteksi dan melaporkan kasus ini. Anthropic baru mendeteksi insiden ini pada 28 September 2026 dan baru memberi tahu pihak kepolisian Philadelphia pada 8 Oktober 2026.

“Jeda dua bulan dalam mendeteksi dan baru melaporkan kejadian ini kepada pemerintah kota adalah tindakan yang tidak dapat diterima,” kata Kepolisian Philadelphia.