Prompt Ringan Tak Perlu AI Mahal, A10 AI Gateway Atur Otomatis

Uzone.id - A10 Networks meluncurkan A10 AI Gateway, platform yang dirancang untuk membantu perusahaan mengatur penggunaan AI dari satu tempat. Platform ini bakalan tersedia mulai kuartal keempat tahun ini (Q4-2026). 

A10 AI Gateway memungkinkan perusahaan memantau penggunaan agen AI, aplikasi berbasis AI, hingga berbagai large language model (LLM) yang digunakan oleh karyawannya. Platform ini juga dapat digunakan untuk mengatur akses ke model AI, memantau biayanya, sampai menentukan model AI yang paling sesuai. 

A10 AI Gateway dibuat lantaran makin banyak perusahaan yang memanfaatkan lebih dari satu model atau penyedia layanan AI. Hal ini membuat perusahaan kesulitan mengetahui model AI apa yang sering dipakai, siapa saja yang mengaksesnya, sampai berapa biaya yang perlu dikeluarkan.

Melalui A10 AI Gateway, seluruh penggunaan AI dapat dikelola lewat satu sistem. Setiap permintaan akan dianalisis berdasarkan jenis dan tingkat kerumitannya sebelum diarahkan ke model yang sesuai.

Misalnya prompt sederhana, akan diteruskan ke model dengan biaya yang lebih murah. Kalau perintahnya lebih berat—butuh penalaran yang lebih tinggi, akan diarahkan ke model AI yang lebih mumpuni. Cara tersebut diklaim dapat menekan biaya penggunaan AI tanpa mengorbankan performa yang dibutuhkan pengguna.

Atur akses dan biaya penggunaan AI

A10 AI Gateway dilengkapi sistem akses berbasis identitas yang dapat disinkronkan dengan direktori pengguna milik perusahaan. Dengan fitur ini, perusahaan bisa menentukan model AI maupun kebijakan yang pas untuk setiap pengguna atau divisi. 

Biaya untuk setiap permintaan AI juga bisa dilihat secara real-time lewat platform ini. Biayanya sendiri ditampilkan dalam nilai uang, sehingga perusahaan bukan cuma melihat jumlah token yang digunakan.

Bicara soal token, A10 AI Gateway juga memungkinkan perusahaan membatasinya berdasarkan model AI maupun tim yang menggunakan. Misalnya, perusahaan menerapkan batas tegas untuk menghentikan penggunaan saat token habis, atau memberikan peringatan saat pemakaian mendekati batas.

Kontrol penggunaan juga dapat diatur melalui jumlah token per minute (TPM) dan request per minute (RPM), baik berdasarkan kunci akses maupun tim.

“Perusahaan dituntut untuk bergerak cepat dalam hal AI sekaligus tetap memegang kendali. Penggunaan AI menyebar lebih cepat daripada kemampuan tim untuk mengidentifikasi, mengatur, atau mengamankannya, sehingga meningkatkan biaya dan tidak ada satu tempat pun untuk menetapkan aturan,” kata Dhrupad Trivedi, President and CEO A10 Networks, dalam keterangan resmi yang diterima Uzone.id.

Menurut Dhrupad, A10 AI Gateway memberikan satu platform bagi perusahaan untuk memantau penggunaan AI, menentukan akses ke masing-masing model, serta mencocokkan setiap permintaan dengan model dan biaya yang sesuai.

A10 turut mengintegrasikan platform barunya dengan sejumlah solusi keamanan miliknya, seperti TrojAI, A10 AI Firewall, dan ThreatX. Integrasi tersebut mencakup pengujian sebelum model AI diterapkan, perlindungan ketika sistem digunakan, serta kontrol pada jaringan dan API. 

A10 AI Gateway dapat digunakan sebagai software mandiri maupun dipadukan dengan perangkat keras. Platform ini juga dapat ditempatkan sepenuhnya di lingkungan milik perusahaan, baik secara on-premise, melalui private cloud, maupun pada jaringan tertutup atau air-gapped.

Skema tersebut memungkinkan data, model AI, dan kebijakan penggunaan tetap berada di bawah kendali perusahaan. Opsi ini juga ditujukan bagi perusahaan yang memiliki persyaratan ketat terkait privasi dan kedaulatan data.

A10 AI Gateway dijadwalkan tersedia pada Q4-2026. A10 Networks belum mengungkap harga maupun skema lisensi yang akan ditawarkan untuk platform tersebut.