OpenRouter Rilis Perbandingan 37 Model Embedding untuk RAG

Gw pernah buang dua hari penuh riset model embedding buat proyek RAG klien, dan separuh opsi yang muncul di hasil pencarian ternyata butuh kartu kredit US atau udah diam-diam di-deprecate. Model embedding itu sendiri gampangnya kayak pustakawan yang nyusun ulang semua dokumen kalian berdasarkan makna, bukan abjad judul — jadi pencarian "cara reset password" bisa nemu dokumen yang nulis "lupa kata sandi" meski kata-katanya beda total.

Apa yang baru

• Katalog OpenRouter sekarang punya 37 model embedding per 11 September 2026, termasuk varian batch dan preview, menurut laporan resmi mereka.
• Rekomendasi default buat RAG bahasa Inggris jatuh ke openai/text-embedding-3-small, dengan context window 8.192 token dan harga prompt yang relatif murah.
• Buat dokumen yang lebih panjang dari 8.192 token, voyageai/voyage-4-large nawarin context sampai 32.000 token dan empat pilihan dimensi output.
• Buat retrieval multibahasa dengan bobot terbuka (open weights), qwen/qwen3-embedding-8b support lebih dari 100 bahasa plus context 32.768 token — ini yang paling relevan buat tim yang kerjanya campur Indonesia-Inggris.
• Ada opsi gratis dan opsi super murah: nvidia/nemotron-3-embed-1b:free gratis dengan context 32.768 token, sementara perplexity/pplx-embed-v1-0.6b cuma $0,004 per juta token input buat opsi berbayar termurah.

Cara kerjanya

OpenRouter gak cuma nyusun tabel dari dokumentasi vendor. Mereka ngirim request dua-string ke 19 model lewat embeddings endpoint mereka sendiri, total 28 pengecekan yang nutupin input batch, dimensi yang bisa diatur, input gambar, input teks-dan-gambar, sampai penanganan error.

Hasilnya: 16 model berbayar balikin satu vektor per input sesuai ekspektasi, dan permintaan ke model fiktif balikin error 400 yang jelas. Tiga rute gratis malah balikin error 404 dari akun tes mereka, karena pengaturan privasi gak ngizinin routing ke provider yang mungkin melatih model dari prompt gratisan — jadi angka dimensi default buat model gratis itu diambil dari model card, bukan dari respons live.

Kenapa ini penting

Buat developer Indonesia yang lagi bangun sistem pencarian internal atau chatbot berbasis dokumen, hambatan terbesar biasanya bukan teknis — tapi administratif. Banyak API embedding kelas atas minta kartu kredit yang diterbitkan di US, atau billing yang ribet buat tim kecil. Katalog ini ngasih jalan pintas: tinggal pilih model lewat satu akun OpenRouter, termasuk opsi gratis buat prototipe sebelum komit ke yang berbayar.

Dukungan multibahasa juga bukan detail kecil. Kalau dokumen kalian campur Bahasa Indonesia dan Inggris — hal yang lumrah di perusahaan lokal — model yang cuma dioptimalkan buat bahasa Inggris bakal ngasih hasil pencarian yang meleset. Sama kayak kalian butuh satu dashboard buat gonta-ganti model tanpa ubah kode aplikasi, yang juga jadi alasan preset config-as-code di OpenRouter kepakai luas — prinsipnya sama: jangan terikat satu vendor sebelum kalian yakin modelnya cocok sama data kalian.

Yang perlu digarisbawahi: OpenRouter sendiri bilang tes mereka cuma ngonfirmasi API-nya jalan, bukan ngukur kualitas retrieval. Model yang bagus di benchmark MTEB belum tentu bagus buat dokumen spesifik kalian.

Buat kalian

• Yang harus peduli: kalian yang lagi bangun atau mau rebuild sistem RAG/pencarian semantik, terutama kalau datanya campur bahasa atau dokumennya panjang-panjang (kontrak, laporan, transkrip).
• Yang boleh santai: kalau sistem pencarian kalian udah jalan stabil dan hasil retrieval-nya udah divalidasi, gak perlu buru-buru migrasi cuma karena ada model baru di katalog.
• Langkah kecil pertama: ambil 20-30 pasang query-dokumen dari data kalian sendiri, lalu tes minimal dua model lewat OpenRouter — satu yang murah/gratis, satu yang direkomendasikan buat kasus kalian — dan bandingin berapa sering masing-masing nemu dokumen yang bener sebelum kalian index semuanya.

Pilihan model embedding itu keputusan teknis kecil, tapi kebiasaan validasi sebelum scaling adalah skill yang kepakai di semua proyek AI kalian, bukan cuma RAG. Itu salah satu hal pertama yang gw latih bareng murid-murid di kelas gw.

Sumber primer: blog resmi OpenRouter, "Best Embedding Models in 2026" (openrouter.ai/blog/insights/best-embedding-models-2026).