Pengelolaan Biaya dan Lalu Lintas Secara Terpusat
Selain perutean, A10 AI Gateway menghadirkan kemampuan pengelolaan lalu lintas dan biaya AI dalam satu bidang kontrol.
Platform ini menyediakan pelacakan biaya setiap permintaan secara real-time dalam dolar. Pengguna juga dapat mengatur anggaran token berdasarkan model dan tim, termasuk menetapkan batas keras serta peringatan ketika mendekati batas penggunaan.
Kontrol penggunaan melalui TPM/RPM juga dapat diterapkan berdasarkan kunci atau tim.
Dengan pengelolaan tersebut, perusahaan dapat memperoleh gambaran yang lebih terpusat mengenai bagaimana AI digunakan sekaligus memantau biaya yang muncul dari penggunaan berbagai model.
Terintegrasi dengan Portofolio Keamanan AI A10
A10 AI Gateway juga melengkapi portofolio keamanan AI milik A10 Networks yang mencakup TrojAI, A10 AI Firewall, dan ThreatX.
Menurut A10 Networks, pendekatan ini mencakup keamanan di berbagai tahap siklus hidup AI, mulai dari pengujian sebelum penerapan, perlindungan saat runtime, hingga kontrol pada lapisan jaringan dan API.
Dapat Berjalan di Lingkungan On-Premises dan Air-Gapped
A10 AI Gateway ditawarkan sebagai perangkat lunak mandiri maupun bersama perangkat keras terintegrasi.
Platform ini dapat dijalankan sepenuhnya di lingkungan milik pelanggan, termasuk on-premises, private cloud, maupun lingkungan air-gapped.
Model penerapan tersebut memungkinkan organisasi mempertahankan kendali terhadap model, data, serta kebijakan yang digunakan dalam operasional AI, termasuk menjaga kedaulatan data.
A10 Networks menjadwalkan A10 AI Gateway tersedia pada kuartal keempat 2026.
Dhrupad Trivedi, President dan CEO A10 Networks, mengatakan bahwa perusahaan saat ini dituntut untuk bergerak cepat dalam mengadopsi AI, namun tetap harus mempertahankan kendali atas penggunaannya.
Menurutnya, A10 AI Gateway dirancang untuk memberikan satu platform kontrol bagi organisasi untuk memantau penggunaan AI, mengatur akses terhadap model, serta mencocokkan setiap permintaan dengan model yang sesuai berdasarkan kebutuhan dan biaya.
A10 Networks sendiri merupakan penyedia solusi aplikasi dan jaringan yang ditujukan untuk lingkungan on-premises, hybrid cloud, dan edge. Perusahaan yang berdiri pada 2004 dan berkantor pusat di San Jose, California, tersebut menyebut telah melayani lebih dari 7.000 pelanggan secara global.
