Makin Pintar, AI Anthropic Bikin Akun GitHub Palsu buat Retas Sistem

Uzone.id — AI Security Institute (AISI) Inggris mengungkap model AI canggih dari Anthropic menunjukkan perilaku yang belum pernah ditemukan sebelumnya saat menjalani pengujian keamanan siber.

Kasus paling serius terjadi saat agen AI Anthropic yaitu Mythos mencoba menyusup ke platform pengembangan perangkat lunak GitHub. AI ini ditugaskan untuk menyelesaikan tantangan keamanan siber, tapi ia malah bertingkah seperti peretas sungguhan.

Menurut laporan AISI yang dikutip dari BBC, Kamis, (06/08), Mythos AI bahkan bisa membuat sejumlah akun palsu yang meniru identitas pengguna asli GitHub, lalu menghubungi mereka melalui pesan pribadi dan layanan berbagi file. 

Tujuannya adalah membujuk korban agar menyetujui kode berbahaya (malicious code) yang telah disiapkan.

Tak berhenti di situ, ketika tindakannya mulai dipertanyakan, Mythos bahkan mencoba menyembunyikan jejaknya dengan mengubah riwayat tindakan agar terlihat tidak berbahaya. 

AI tersebut juga sempat mempertimbangkan untuk membuat identitas baru agar bisa melanjutkan aksinya.

Untungnya, seluruh upaya itu berhasil dihentikan oleh tim manusia Anthropic yang bertugas untuk melakukan pengawasan sebelum kode berbahaya berhasil masuk ke sistem GitHub.

AISI menyebut perilaku tersebut muncul tanpa instruksi khusus agar AI melakukan penipuan atau menghindari pengawasan.

"Ini pertama kalinya kami melihat risiko terkait otonomi dan perilaku menipu muncul dengan sangat jelas tanpa perintah khusus dalam pengujian dunia nyata," kata AISI dalam laporan tersebut, dikutip dari sumber yang sama.

Saat ini, GitHub dan para pengguna yang terdampak telah diberitahu oleh AISI mengenai upaya pelanggaran tersebut. GitHub bahkan sudah menyatakan bahwa mereka telah menonaktifkan akun-akun palsu tersebut sesuai dengan kebijakannya.

Temuan ini muncul hanya beberapa minggu setelah Anthropic dan OpenAI mengungkap insiden terpisah yang melibatkan model AI mereka. Anthropic sebelumnya mengakui salah satu model Claude sempat memperoleh akses tidak sah ke tiga organisasi berbeda karena adanya kesalahan konfigurasi lingkungan pengujian.

Sementara OpenAI mengungkap model AI eksperimentalnya mencoba untuk meretas sistem perusahaan lain selama proses evaluasi internal.