OrcaRouter

Perutean Cerdas Adaptif

OrcaRouter menilai setiap prompt melalui embedding dan merutekannya melalui model yang belajar secara online dari lalu lintas nyata, secara otomatis mengirimkan setiap permintaan ke model yang paling sesuai.

Pemimpin Akurasi Perutean

Router ini memimpin papan peringkat publik RouterArena dengan akurasi 75,5% per Juni 2026, unggul dari GPT-5, Azure, Martian, dan NotDiamond.

Markup Token Nol

Semua 200+ model ditagih sesuai tarif yang dipublikasikan oleh penyedia upstream tanpa markup token, menjadikan perutean gratis di semua tingkatan.

200+ Model melalui Satu Endpoint

Satu endpoint kompatibel OpenAI menyediakan akses ke 200+ model dari penyedia termasuk Anthropic, Google, Alibaba Cloud, dan Moonshot.

Failover Otomatis

Ketika penyedia membatasi kecepatan atau mengembalikan error 5xx, OrcaRouter mencoba ulang ke model yang sehat dari 200+ opsi dalam waktu kurang dari 50 milidetik sebelum respons dimulai.

Tujuan Perutean yang Dapat Dikonfigurasi

Workspace dapat dikonfigurasi dengan mode perutean termasuk Cheapest, Balanced, Quality, dan Adaptive, masing-masing dioptimalkan untuk prioritas yang berbeda.

Guardrails

Deteksi injeksi prompt, pemblokiran data sensitif, dan kebijakan penegakan topik dijalankan pada setiap permintaan untuk mencegah penyalahgunaan dan kebocoran data.

Firewall Agen

Tata kelola kunci API dan kontrol akses model membatasi model dan kemampuan apa yang dapat dijangkau oleh setiap agen atau layanan melalui gateway.

Observabilitas

Dasbor bawaan melacak volume permintaan, latensi, biaya, penggunaan model, dan tingkat kegagalan di seluruh lalu lintas yang dirutekan.

Perutean sebagai Kode

Logika perutean dapat diekspresikan sebagai YAML yang dikontrol versi dengan ekspresi CEL, diterapkan dalam hitungan detik tanpa perubahan atau redeploy sisi klien.

Penyeimbangan Beban

Lalu lintas didistribusikan ke seluruh penyedia dan model untuk mengoptimalkan biaya, latensi, dan ketersediaan sambil mencegah kelebihan beban pada satu upstream mana pun.

• [Startup]：Akses 200+ LLM melalui satu endpoint tanpa mengelola banyak kunci API atau integrasi penyedia layanan.
• [Tim teknik]：Rutekan prompt ke model optimal secara otomatis, menyeimbangkan kualitas dan biaya tanpa penyesuaian manual.
• [Tim keamanan perusahaan]：Terapkan guardrails dan kebijakan firewall agen di seluruh penggunaan AI dari lapisan tata kelola terpusat.
• [Tim operasi]：Jaga kelangsungan layanan dengan failover otomatis di bawah 50 ms ketika penyedia upstream mana pun membatasi kecepatan atau mengalami downtime.
• [Tim keuangan]：Kurangi pengeluaran AI hingga 40% melalui routing cerdas yang memilih model termurah yang memenuhi persyaratan kualitas.

Apa itu OrcaRouter?

OrcaRouter adalah gateway AI yang merutekan prompt ke lebih dari 200 model bahasa melalui satu endpoint yang kompatibel dengan OpenAI. Ia mengevaluasi setiap permintaan saat runtime, memilih model yang paling sesuai berdasarkan target kualitas dan biaya, serta menyediakan guardrails bawaan, firewall agen, dan alat observabilitas. Platform ini tidak mengenakan markup token pada semua tingkatan.

Bagaimana cara kerja harga OrcaRouter?

OrcaRouter mengenakan tarif per token yang dipublikasikan oleh penyedia hulu tanpa menambahkan markup per token. Pendapatan berasal dari langganan berbayar opsional, bukan dari menaikkan biaya token. Tingkatan Hacker gratis menyediakan gateway lengkap termasuk 200+ model, failover otomatis, dan observabilitas dasar. Tingkatan Team berharga $499 per bulan dan menambahkan hingga 10 kursi, penegakan kepatuhan, laporan audit, kunci API tak terbatas, dan dukungan prioritas. Paket Enterprise menawarkan deployment pribadi atau on-premise, SLA uptime 99,99%, infrastruktur khusus, dan harga khusus.

Model apa saja yang tersedia melalui OrcaRouter?

OrcaRouter menyediakan akses ke lebih dari 200 model dari penyedia termasuk OpenAI, Anthropic, Google Gemini, DeepSeek, xAI Grok, Alibaba Qwen, Moonshot Kimi, MiniMax, dan lainnya. Katalog model mencakup opsi frontier dan open-source. Semua model dapat diakses melalui satu endpoint yang kompatibel dengan OpenAI, dan platform juga menyediakan permukaan protokol native Anthropic dan Google Gemini untuk akses langsung.

Bagaimana cara kerja routing adaptif?

Setiap prompt di-embed dan diberi skor secara real-time terhadap model yang tersedia. Sebuah model yang terus belajar merutekan permintaan ke penyedia yang paling sesuai berdasarkan tujuan yang dikonfigurasi di workspace. Pengguna dapat memilih mode routing seperti Cheapest, Balanced, Quality, dan Adaptive. Router ini memimpin papan peringkat publik RouterArena dengan akurasi 75,5% per Juni 2026, mengungguli GPT-5, Azure, Martian, dan NotDiamond.

Bagaimana OrcaRouter menangani gangguan penyedia?

Ketika penyedia hulu membatasi kecepatan permintaan atau mengembalikan error 5xx, OrcaRouter secara otomatis melakukan failover ke model yang sehat dari kumpulan 200+ opsinya. Failover ini selesai dalam waktu kurang dari 50 milidetik, sebelum klien mengalami timeout. Proses ini transparan bagi pengguna akhir dan tidak memerlukan logika percobaan ulang di sisi klien.

Fitur keamanan dan tata kelola apa yang disertakan?

OrcaRouter menyertakan guardrails untuk deteksi injeksi prompt, pemblokiran data sensitif, dan penegakan topik pada setiap permintaan. Firewall agen menyediakan tata kelola kunci API dan kontrol akses model yang membatasi model dan kemampuan apa yang dapat dijangkau oleh setiap agen atau layanan. Semua paket berjalan di belakang guardrails dan firewall agen yang sama. Tingkatan Team dan Enterprise menambahkan penegakan kepatuhan dan laporan audit untuk persyaratan regulasi.

Apa perbedaan antara tingkatan Hacker, Team, dan Enterprise?

Tingkatan Hacker gratis dan mencakup gateway lengkap dengan 200+ model, failover otomatis, observabilitas dasar, dan satu workspace. Tingkatan Team seharga $499 per bulan menambahkan hingga 10 kursi tim, kunci API tak terbatas, penegakan kepatuhan dan pelaporan, serta dukungan prioritas. Enterprise mencakup semua yang ada di Team plus deployment pribadi atau on-premise, SLA uptime 99,99%, infrastruktur khusus, dan dukungan khusus. Tidak diperlukan kartu kredit untuk memulai di tingkatan Hacker.

• Daftar akun di orcarouter.ai untuk membuat ruang kerja baru dan mendapatkan akses ke dasbor gateway routing dengan semua opsi manajemen.
• Hasilkan kunci API dari halaman pengaturan dasbor dan gunakan untuk mengautentikasi setiap permintaan yang dikirim melalui gateway OrcaRouter.
• Ubah base_url di klien SDK OpenAI yang ada menjadi https://api.orcarouter.ai/v1 sambil mempertahankan semua kode dan parameter klien lainnya tidak berubah.
• Atur parameter model ke "orcarouter/auto" sehingga platform menilai setiap prompt yang masuk dan merutekannya ke penyedia optimal secara otomatis.
• Konfigurasikan tujuan routing per ruang kerja untuk memprioritaskan biaya terendah, kualitas keluaran tertinggi, atau keseimbangan antara keduanya.
• Kirim permintaan menggunakan format SDK OpenAI standar dan gateway menangani routing cerdas, failover otomatis, serta guardrails langsung tanpa konfigurasi tambahan.