F5 & Nvidia Rilis Solusi Inference AI, Tingkatkan Token

Perusahaan penyedia keamanan dan distribusi aplikasi, F5, telah memperluas kolaborasinya dengan Nvidia. Melalui kerja sama ini, kedua perusahaan meluncurkan solusi cerdas yang dirancang untuk mempercepat dan mengoptimalkan infrastruktur inferensi AI di tingkat perusahaan.

Integrasi terbaru menggabungkan produk F5 BIG‑IP Next for Kubernetes dengan Nvidia BlueField‑3 DPU (Data Processing Unit). Kombinasi ini menciptakan lapisan infrastruktur cerdas yang meningkatkan pemrosesan keluaran AI dengan memanfaatkan GPU secara lebih optimal dan mengurangi latensi.

Ekonomi Token menjadi fokus utama dalam sistem AI generatif. Token adalah satuan keluaran dasar yang terukur—bisa berupa kata, simbol, atau fragmen data. Seiring tren AI beralih dari sekadar eksperimen menjadi fase monetisasi, volume dan kecepatan produksi token menjadi kunci efisiensi bisnis. Keberhasilan infrastruktur AI kini diukur tidak hanya dari kapasitas GPU, melainkan dari “ekonomi token”. Ini mencakup seberapa cepat Time to First Token, biaya per token, hingga potensi pendapatan per GPU yang menyala.

“Infrastruktur AI bukan hanya tentang akses ke GPU atau peningkatan skala implementasinya. Ia telah berevolusi menjadi upaya memaksimalkan output ekonomi per akselerator,” jelas Kunal Anand, Chief Product Officer F5, dalam keterangan yang diterima Minggu, 10 Mei 2026. Kunal menambahkan, bersama Nvidia, F5 membantu fasilitas pengembangan AI (AI factory) untuk mengelola produksi token layaknya metrik bisnis yang terukur, sehingga biaya per token bisa ditekan secara signifikan.

Performa yang ditawarkan kombinasi F5 dan Nvidia tidak hanya klaim teoretis. Berdasarkan pengujian yang divalidasi oleh The Tolly Group, integrasi kedua teknologi ini terbukti menghasilkan peningkatan berikut:

• Meningkatkan token throughput (jumlah produksi token) hingga 40 persen.
• Waktu kemunculan token pertama (Time to First Token/TTFT) 61 persen lebih cepat.
• Menurunkan latensi permintaan secara keseluruhan hingga 34 persen.

Kecepatan ini terletak pada pembagian tugas beban kerja. F5 dan Nvidia memindahkan fungsi berat seperti manajemen jaringan, enkripsi TLS, dan load balancing ke chip Nvidia BlueField‑3 DPU. Delegasi tugas ini otomatis membebaskan ruang komputasi GPU, sehingga GPU dapat fokus 100 persen melakukan inferensi AI secara terus‑menerus. Yang paling penting, semua peningkatan kecepatan ini dapat diterapkan langsung tanpa perlu merombak atau memodifikasi model AI yang sudah berjalan.

“Infrastruktur komputasi Nvidia yang dipadukan dengan platform F5 membuka potensi ‘tokenomics’ AI factory, yakni menghadirkan inferensi yang skalabel dan hemat biaya tanpa perlu melakukan perubahan apa pun pada model,” kata Kevin Deierling, SVP Networking Nvidia.

Dengan solusi terintegrasi ini, perusahaan dan penyedia layanan cloud dapat berbagi infrastruktur GPU secara aman antar unit bisnis, tanpa khawatir terjadi kebocoran data atau penurunan performa sistem jaringan.

Inisiatif ini menandai langkah penting bagi industri AI, di mana efisiensi ekonomi token menjadi tolok ukur utama. Peningkatan throughput, pengurangan waktu respons, dan penghematan biaya per token menunjukkan bahwa kolaborasi teknologi dapat meningkatkan produktivitas tanpa mengorbankan keamanan atau integritas model. Perusahaan yang mengadopsi solusi ini dapat memanfaatkan GPU lebih efektif, menghasilkan lebih banyak token dalam waktu lebih singkat, dan mengoptimalkan pendapatan dari setiap unit komputasi yang tersedia.