컨티뉴엄 AI(CONTINUUM AI)가 개발한 OrcaRouter (https://www.orcarouter.ai)는 2026년 10월 26일 로컬에서 돌리는 모델을 공유 API로 노출하는 Orca Connect를 공개했다고 밝혔다. Orca Connect는 Ollama와 vLLM, LM Studio, llama.cpp, SGLang, MLX, TensorRT-LLM에서 돌아가는 모델을 기존 API 키로 200개 이상의 호스팅 모델과 나란히 호출할 수 있으며, 사용자 하드웨어가 처리한 요청에는 비용을 청구하지 않는다.
아웃바운드 전용 연결
Orca Connect는 설치한 뒤 브라우저에서 머신을 한 번 승인하거나, 화면 없는 서버라면 코드로 승인한다. 커넥터는 외부로 통하는 연결 하나만 열고, 그 연결로 모든 요청을 각자의 스트림에 실어나른다. 라우터에는 인바운드 연결이 보이지 않는다. 포트 포워딩도, 설정할 터널도, 방화벽 규칙도 필요 없다. 공유할 모델을 고르기 전에는 아무것도 노출되지 않는다. 공유한 모델은 카탈로그에 local/your-rig/your-model 형태로 나타나고, 노트북과 휴대폰, 클라우드 에이전트가 이미 쓰던 키로 부를 수 있다. 머신 안의 프로그램은 런타임과 직접 통신해도 된다.
로컬이 답하면 0달러
사용자의 하드웨어가 처리한 응답에는 X-Orca-Billed: false 헤더가 붙고, 요청은 0달러로 기록된다. OrcaRouter는 사용자의 하드웨어가 처리하는 것에 대해 아무것도 청구하지 않는다며, 비용은 미리 고른 호스팅 모델이 대신 답할 때만 발생한다고 설명했다.
스필오버는 기본으로 비활성화
노트북을 덮으면 연결이 끊긴 것을 라우터가 알고, 스필오버가 비활성된 호출자는 503 local_connector:unavailable과 함께 분명한 거절을 받는다. 요금은 붙지 않는다. 스필오버를 활성화하면 머신 오프라인, 머신 사용 중, 너무 긴 프롬프트, 런타임 오류, 도구가 필요한 요청처럼 허용한 이유에 대해서만, 지정한 모델로, 정해 둔 월 한도 안에서 호스팅 모델이 답한다. 그 응답에는 이유와 예상 비용이 담긴다. 반대 방향도 된다. 코드에는 계속 gpt-4o-mini라고 지정해 두고, 로컬 GPU가 가동 중일 때는 로컬에서 처리하다가 불가능한 상황에서만 유료로 전환하도록 설정할 수 있다.
API 키 노출 대신 머신 공유
사용자는 만료일과 요청 한도를 설정해 로컬 모델 접근 링크를 생성할 수 있으며, 필요시 언제든 권한을 취소할 수 있다. 수신자는 자신의 계정으로 로그인해 접근하므로 원본 API 키가 외부에 노출될 위험이 없다. 또한 API 키를 ‘로컬 전용’으로 지정하면 해당 요청은 호스팅 모델로 넘어가지 않고 오직 로컬 머신에서만 처리된다. 단, 이 설정은 추론 실행 위치를 제한하는 것이며 프롬프트 트래픽 자체는 OrcaRouter 게이트웨이를 경유한다.
코딩 에이전트를 내 GPU로
orca-connect claude를 실행하면 Claude Code가 해당 세션에 한해 로컬 모델로 동작한다. claude 대신 codex, opencode, gemini, qwen, kimi, copilot, aider, goose, pi를 넣으면 Codex CLI, OpenCode, Gemini CLI, Qwen Code, Kimi Code, Copilot CLI, Aider, Goose, pi에서도 동일하게 적용되며, 에이전트 자체 설정은 그대로 남는다.
암호화 릴레이와 ZDR
Orca Connect의 요청은 암호화된 릴레이를 지난다. OrcaRouter는 프롬프트와 응답을 기본으로 저장하지 않으며, 제로 데이터 보존(ZDR)은 모든 플랜에서 활성화할 수 있다고 밝혔다. 기본 경로의 암호화는 게이트웨이에서 종료되므로, 완전한 종단 간 연결이 필요한 팀은 Tailscale이나 WireGuard로 릴레이를 우회하도록 구성할 수 있다.
추천 활용 대상
Orca Connect는 외부 GPU를 빌리지 않고 이미 보유한 장비를 쓰려는 팀과 노트북에서 구동하는 모델을 이동 중에도 사용하려는 개발자, 팀원에게 특정 모델만 선별해 공유하려는 운영자에게 맞는다. 같은 카탈로그에 호스팅 모델이 있으므로 로컬 모델이 꺼졌을 때 무엇이 대신 답할지 미리 정해 둘 수 있고, 그 판단은 응답 헤더에 남는다. 로컬 추론은 청구되지 않는다.
주요 모델
OrcaRouter는 단일 API 키와 엔드포인트로 다음을 포함한 200개 이상의 모델을 제공한다.
· Claude Opus 5.5 (https://www.orcarouter.ai/ko/models/anthropic/claude-opus-5.5)
· GPT-6.1 Sol (https://www.orcarouter.ai/ko/models/openai/gpt-6.1-sol)
· Gemini 3.8 Flash (https://www.orcarouter.ai/ko/models/google/gemini-3.8-flash)
· DeepSeek V4.1 Flash (https://www.orcarouter.ai/ko/models/deepseek/deepseek-v4.1-flash)
· Grok 4.6 (https://www.orcarouter.ai/ko/models/grok/grok-4.6)
· Qwen 3.7 Max (https://www.orcarouter.ai/ko/models/qwen/qwen3.7-max)
· GLM-5.3 (https://www.orcarouter.ai/ko/models/z-ai/glm-5.3)
참고
· Orca Connect 소개 (https://www.orcarouter.ai/ko/solutions/orca-connect)
· OrcaRouter Lite (https://www.orcarouter.ai/ko/solutions/orcarouter-lite)
· 요금 안내 (https://www.orcarouter.ai/ko/pricing)
· OrcaRouter 웹사이트 (https://www.orcarouter.ai/)
OrcaRouter 소개
OrcaRouter는 OpenAI 호환 LLM 게이트웨이로, 200개가 넘는 모델에 걸쳐 라우팅하며 약 40%의 비용 절감, 1밀리초 미만의 라우팅 오버헤드, 0%의 토큰 마크업을 제공한다. 자체 호스팅 에디션인 OrcaRouter-Lite는 MIT 라이선스로 제공된다.
컨티뉴엄 AI(CONTINUUM AI) 소개
컨티뉴엄 AI(CONTINUUM AI)는 최첨단 AI를 개발자와 팀이 접근 가능하고 합리적인 비용으로 사용할 수 있도록 하기 위해 설립된 싱가포르 기반 기업이다. 단일 API 키와 엔드포인트를 통해 200개 이상의 선도적인 AI 모델에 대한 액세스를 제공하는 OpenAI 호환 AI Gateway인 OrcaRouter를 개발한 회사다. OrcaRouter는 약 40%의 비용 절감, 1ms 미만의 라우팅 오버헤드, 토큰 마크업 없음을 제공하며, MIT 라이선스로 출시된 자체 호스팅 버전(OrcaRouter-Lite)도 함께 제공한다.
언론연락처: 컨티뉴엄 AI OrcaRouter Koki Kobayashi
이 뉴스는 기업·기관·단체가 뉴스와이어를 통해 배포한 보도자료입니다.