OrcaRouter FAQ
OrcaRouter는 단일 엔드포인트로 200개 이상의 모델에 프롬프트를 라우팅하는 AI 게이트웨이입니다. 제로 마크업에 적응형 라우팅, 가드레일, 에이전트 방화벽 및 옵저버빌리티를 제공합니다.
OrcaRouter의 FAQ
OrcaRouter란 무엇인가요?
OrcaRouter는 단일 OpenAI 호환 엔드포인트를 통해 200개 이상의 언어 모델에 프롬프트를 라우팅하는 AI 게이트웨이입니다. 런타임에 각 요청을 평가하고 품질 및 비용 목표에 따라 가장 적합한 모델을 선택하며, 내장된 가드레일, 에이전트 방화벽 및 관찰 가능성 도구를 제공합니다. 모든 티어에서 토큰 마크업이 부과되지 않습니다.
OrcaRouter 요금제는 어떻게 되나요?
OrcaRouter는 업스트림 제공업체가 공시한 토큰당 요금을 그대로 청구하며, 토큰당 마크업을 추가하지 않습니다. 수익은 토큰 비용 인상이 아닌 선택적 유료 구독에서 발생합니다. 무료 Hacker 티어는 200개 이상의 모델, 자동 장애 조치 및 기본 관찰 가능성을 포함한 전체 게이트웨이를 제공합니다. Team 티어는 월 499달러로 최대 10석, 규정 준수 적용, 감사 보고, 무제한 API 키 및 우선 지원을 추가합니다. Enterprise 플랜은 프라이빗 또는 온프레미스 배포, 99.99% 가동 시간 SLA, 전용 인프라 및 맞춤형 요금을 제공합니다.
OrcaRouter를 통해 어떤 모델을 사용할 수 있나요?
OrcaRouter는 OpenAI, Anthropic, Google Gemini, DeepSeek, xAI Grok, Alibaba Qwen, Moonshot Kimi, MiniMax 등을 포함한 제공업체의 200개 이상의 모델에 대한 액세스를 제공합니다. 모델 카탈로그는 최첨단 모델과 오픈소스 옵션을 모두 포함합니다. 모든 모델은 단일 OpenAI 호환 엔드포인트를 통해 액세스할 수 있으며, 플랫폼은 기본 Anthropic 및 Google Gemini 프로토콜 표면도 직접 액세스용으로 제공합니다.
적응형 라우팅은 어떻게 작동하나요?
각 프롬프트는 런타임에 임베딩되어 사용 가능한 모델에 대해 점수가 매겨집니다. 지속적으로 학습하는 모델이 워크스페이스에 설정된 목표에 따라 요청을 가장 적합한 제공업체로 라우팅합니다. 사용자는 Cheapest, Balanced, Quality, Adaptive 등의 라우팅 모드 중에서 선택할 수 있습니다. 이 라우터는 2026년 6월 기준 공개 RouterArena 리더보드에서 75.5% 정확도로 GPT-5, Azure, Martian 및 NotDiamond을 앞서며 1위를 차지하고 있습니다.
OrcaRouter는 제공업체 장애를 어떻게 처리하나요?
업스트림 제공업체가 요청을 제한하거나 5xx 오류를 반환하면 OrcaRouter는 200개 이상의 모델 풀에서 정상 모델로 자동 장애 조치합니다. 이 장애 조치는 클라이언트 시간 초과가 발생하기 전인 50밀리초 이내에 완료됩니다. 이 프로세스는 최종 사용자에게 투명하게 이루어지며 클라이언트 측 재시도 로직이 필요하지 않습니다.
어떤 보안 및 거버넌스 기능이 포함되어 있나요?
OrcaRouter는 모든 요청에 대해 프롬프트 인젝션 탐지, 민감한 데이터 차단 및 주제 적용을 위한 가드레일을 포함합니다. 에이전트 방화벽은 API 키 거버넌스와 모델 액세스 제어를 제공하여 각 에이전트나 서비스가 도달할 수 있는 모델과 기능을 제한합니다. 모든 플랜은 동일한 가드레일과 에이전트 방화벽 아래에서 실행됩니다. Team 및 Enterprise 티어는 규제 요구 사항을 위한 규정 준수 적용 및 감사 보고를 추가합니다.
Hacker, Team, Enterprise 티어의 차이점은 무엇인가요?
Hacker 티어는 무료이며 전체 게이트웨이(200개 이상의 모델, 자동 장애 조치, 기본 관찰 가능성)와 단일 워크스페이스를 포함합니다. Team 티어는 월 499달러로 최대 10개의 팀석, 무제한 API 키, 규정 준수 적용 및 보고, 우선 지원을 추가합니다. Enterprise 티어는 Team의 모든 기능에 프라이빗 또는 온프레미스 배포, 99.99% 가동 시간 SLA, 전용 인프라 및 전용 지원을 포함합니다. Hacker 티어는 신용카드 없이 시작할 수 있습니다.
OrcaRouter 사용 방법
- orcarouter.ai에서 계정을 등록하여 작업 공간을 만들고 라우팅 게이트웨이 대시보드의 모든 관리 옵션에 접근하세요.
- 대시보드 설정 페이지에서 API 키를 생성하고 OrcaRouter 게이트웨이를 통해 전송되는 모든 요청을 인증하는 데 사용하세요.
- 기존 OpenAI SDK 클라이언트의 base_url을 https://api.orcarouter.ai/v1로 변경하고 다른 모든 클라이언트 코드와 매개변수는 그대로 유지하세요.
- model 매개변수를 "orcarouter/auto"로 설정하면 플랫폼이 각 수신 프롬프트를 평가하여 최적의 제공자로 자동 라우팅합니다.
- 작업 공간별로 라우팅 목표를 구성하여 최저 비용, 최고 품질 출력 또는 두 가지의 균형을 우선시하세요.
- 표준 OpenAI SDK 형식으로 요청을 보내면 게이트웨이가 지능형 라우팅, 자동 장애 조치 및 가드레일을 즉시 처리합니다.
