구매와 비용
최종 업데이트
Orca Connect로 내 GPU를 Claude Code에 붙이기
아웃바운드 연결 하나, 스필오버는 꺼진 채로
Orca Connect는 집 GPU1를 OrcaRouter 카탈로그에 local/장비이름/모델이름으로 올리는 커넥터예요. 포트 포워딩 없이 아웃바운드 연결 하나만 열고, 로컬 전용 키로 호스팅 모델 과금을 막아요. 대신 프롬프트2는 라우터를 거치고, 무료라는 조건도 아직 유지되는 중이에요.
무엇이 바뀌나요
커넥터를 내 머신에서 켜면, 그 머신의 런타임3을 찾아 공유할 모델을 고르게 해요. 고른 모델은 카탈로그에 local/장비이름/모델이름 형태로 올라가요.
부르는 쪽은 이미 쓰던 키와 엔드포인트를 그대로 써요. 노트북이나 휴대폰에서 호출해도 요청은 라우터를 거쳐 내 머신에 도착해요.
포트 포워딩도 터널 설정도 방화벽 규칙도 늘리지 않아요. 공유할 모델을 고르기 전에는 아무것도 노출되지 않아요.
커넥터는 그 머신의 메모리에 이미 올라간 모델만 공유해요. 메모리가 24GB인 머신이면 24GB 안에 들어간 모델이 목록에 오르는 식이에요.
스필오버는 기본이 꺼짐
스필오버를 켜면 정해 둔 이유에서만, 지정한 모델로만, 월 한도 안에서만 호스팅 모델이 대신 답해요. 켜지 않으면 그런 일은 일어나지 않아요.
응답 헤더에 어디서 처리됐는지 남아요. 내 하드웨어가 답하면 X-Orca-Billed: false, 호스팅으로 넘어가면 이유와 예상 비용이 붙어요.
| 상황 | 응답 | 과금 |
|---|---|---|
| 내 머신이 처리 | X-Orca-Billed: false | 0원 |
| 머신이 꺼져 있고 스필오버 꺼짐 | 503 local_connector:unavailable | 없음 |
| 머신이 꺼져 있고 스필오버 켜짐 | X-Orca-Spillover-Reason: rig_offline | 호스팅 요금 |
| 월 한도 소진 | 거절 | 없음 |
코딩 에이전트를 내 머신으로
orca-connect claude를 실행하면 Claude Code가 그 세션에 한해 내 모델로 시작해요. 에이전트 자체 설정은 건드리지 않아요.
claude 자리에 codex, opencode, gemini, qwen, kimi, copilot, aider, goose, pi를 넣으면 같은 방식으로 각 CLI4가 내 모델을 봐요.
| 명령 | 바뀌는 CLI | 쓰는 때 |
|---|---|---|
| orca-connect claude | Claude Code | 이미 Claude Code를 쓰는 경우 |
| orca-connect codex | Codex CLI | 터미널에서 길게 작업할 때 |
| orca-connect aider | Aider | 파일 단위 수정이 중심일 때 |
| orca-connect goose | Goose | 도구 호출 중심 워크플로 |
프롬프트는 여전히 라우터를 지나요
로컬 전용으로 표시한 키는 추론이 호스팅 모델에서 실행되지 않게 해요. 과금도 막아요. 다만 요청 자체는 OrcaRouter를 거쳐요.
이 구분이 중요한 이유는, 실행 위치와 데이터 경로가 다른 문제이기 때문이에요. 페이지 내용이나 사내 문서를 다룬다면 이 차이를 먼저 확인해야 해요.
설치와 첫 공유
커넥터를 설치하고 브라우저에서 머신을 한 번 승인해요. 화면이 없는 서버라면 코드로 승인해요.
orca-connect status로 찾은 런타임 목록을 보고, 콘솔에서 공유할 모델을 골라요. 첫 선택은 트레이나 orca-connect expose로 해도 돼요.
orca-connect status
orca-connect expose
무엇에 약한가
상용 서비스예요. 지금은 무료지만 가격과 약관이 바뀔 수 있어서, 업무에 넣기 전에 조건을 확인해야 해요.
기기가 켜져 있고 연결이 살아 있어야 해요. 절전에 들어가거나 재부팅하면 밖에서 부른 요청은 실패해요.
같은 방에서 쓰는 용도라면 LAN 서버가 더 빠르고 단순해서, 이 커넥터를 LAN 대체로 권장하지 않아요. 밖에서 부를 때 값을 해요.
공유하는 모델의 라이선스는 내 몫이에요. 모델 카드에서 상업적 사용 조건을 확인해야 해요.
용어 각주
GPU — 많은 계산을 병렬로 처리하는 프로세서입니다. AI 모델 실행에서는 모델 계산을 맡습니다.
본문으로 돌아가기프롬프트 — 모델에 보내는 입력문입니다. 생성 모델에서는 만들 결과를 설명하는 문장이 되어 출력의 구성과 내용을 크게 좌우합니다.
본문으로 돌아가기런타임 — 프로그램이 실행될 때 필요한 기능을 제공하는 소프트웨어 환경입니다. 로컬 AI에서는 모델을 실행하는 엔진을 가리키기도 합니다.
본문으로 돌아가기CLI — Command-Line Interface의 약자입니다. 터미널에 명령어를 입력해 프로그램을 조작하는 방식입니다.
본문으로 돌아가기
자주 묻는 질문
- 이 글에서 가장 먼저 확인할 것은 무엇인가요?
- Orca Connect는 집 GPU를 OrcaRouter 카탈로그에 local/장비이름/모델이름으로 올리는 커넥터예요. 포트 포워딩 없이 아웃바운드 연결 하나만 열고, 로컬 전용 키로 호스팅 모델 과금을 막아요. 대신 프롬프트는 라우터를 거치고, 무료라는 조건도 아직 유지되는 중이에요.
- 필요한 메모리는 어느 정도인가요?
- 커넥터는 그 머신의 메모리에 이미 올라간 모델만 공유해요. 메모리가 24GB인 머신이면 24GB 안에 들어간 모델이 목록에 오르는 식이에요.
- 선택하지 않는 편이 좋은 경우는 언제인가요?
- 같은 방에서 쓰는 용도라면 LAN 서버가 더 빠르고 단순해서, 이 커넥터를 LAN 대체로 권장하지 않아요. 밖에서 부를 때 값을 해요.
- 조건과 출처는 어디서 확인하나요?
- 공유하는 모델의 라이선스는 내 몫이에요. 모델 카드에서 상업적 사용 조건을 확인해야 해요.