KEPULAUAN RIAU — Box mengumumkan fitur Box Content Retrieval yang menanamkan sistem embedding Nemotron milik Nvidia ke inti produknya, menjanjikan kueri agen empat kali lebih cepat dengan 20% lebih sedikit kesalahan. Fitur ini akan tersedia bagi seluruh pelanggan Enterprise Advance dan mulai dirilis awal tahun depan. Langkah tersebut memperluas peran Nvidia di lapisan infrastruktur agen AI perusahaan.
Pengumuman itu disampaikan Box dalam konferensi pengembangnya, dengan CEO Aaron Levie menempatkan sistem ini sebagai pengganti cara agen membaca dokumen satu per satu. Box Content Retrieval memanfaatkan metadata hasil pemrosesan Nemotron untuk mengirim potongan dokumen yang paling relevan ke agen.
Apa yang Berubah dari Sisi Pencarian
Nemotron Embed menambahkan lapisan embedding yang memetakan konsep di balik kata kunci, bukan sekadar mencocokkan istilah. Kari Briski, VP Generative AI Software Nvidia, memperkirakan kueri terjawab empat kali lebih cepat, dengan 20% lebih sedikit kesalahan dan pemakaian token turun 90%.
Penurunan konsumsi token berdampak langsung ke biaya operasional agen. Semakin sedikit token yang diproses, semakin murah setiap kueri yang dijalankan di atas dokumen perusahaan.
Contoh Penggunaan di Sektor Hukum
Box mencontohkan tim legal sebagai pengguna awal yang paling diuntungkan. Pengacara bisa menemukan klausul dan preseden relevan lebih cepat karena sistem mengenali konsep hukum meski dokumen memakai istilah berbeda.
Kemampuan itu berguna ketika agen harus menelusuri ribuan kontrak dengan variasi bahasa yang tidak seragam. Agen tidak perlu membaca seluruh isi dokumen untuk sampai pada bagian yang dibutuhkan.
Ketersediaan dan Basis Teknis
Model Nemotron tersedia terbuka, tetapi Box menekankan sistem ini sulit direplikasi dari nol. Pasalnya, Content Retrieval bergantung pada metadata dan kontrol izin yang sudah dibangun Box sebelumnya.
"We're probably packing in five different technologies into one simple API," kata Levie kepada TechCrunch. Kombinasi itu yang membuat fitur ini menempel erat pada infrastruktur Box, bukan sekadar pembungkus model Nvidia.
Rilis perdana menyasar pelanggan Enterprise Advance, dengan jadwal rollout awal tahun depan. Belum ada keterangan apakah fitur ini akan menyentuh paket Business atau Personal.
Posisi Nvidia di Lapisan Embedding
Laboratorium AI besar cenderung mengabaikan model embedding karena fokus pada model bahasa utama. Nvidia justru menjadikan sektor ini prioritas proyek open-source-nya, dan rilis Nemotron pada Juli menempati peringkat pertama benchmark RTEB yang mengukur kualitas retrieval.
Kemitraan dengan Box memberi Nvidia jalur distribusi ke basis pelanggan enterprise tanpa harus membangun produk akhir sendiri. Bagi Box, langkah ini memperkuat posisi sebagai lapisan data tempat agen AI bekerja.