모델별 실행 레시피
최종 업데이트
OpenRouter가 안 될 때, 쓰던 앱을 로컬 LLM으로 바꾸려면?
쓰던 앱에서 내 컴퓨터의 모델로 질문을 보내요.
LM Studio는 내 PC나 Mac에서 모델을 실행하고 다른 앱의 질문에도 답하게 해주는 프로그램이에요. 쓰던 앱이 OpenAI 호환 사용자 지정 연결을 지원하면, 별도 로컬 프로필을 만들어 LM Studio에 연결할 수 있어요. 모델을 미리 준비한 뒤 짧은 코드 리뷰로 연결과 답변을 시험해볼게요.
로컬 API 서버가 앱 요청을 받아 답을 돌려줘요
앱이 보낸 코드와 질문을 LM Studio의 API1 서버가 받아 로컬 모델로 처리하고, 답변을 다시 앱에 돌려줘요. 연결할 앱의 설정 화면에서 OpenAI-compatible 또는 Custom provider를 선택할 수 있는지 먼저 확인하세요. 여기에 LM Studio의 서버 주소(Base URL)와 모델 ID를 등록하게 됩니다. LM Studio 서버 안내 · 호환 API와 Base URL
아래 함수는 전체값 total에서 부분값 part가 차지하는 비율을 계산해요. 이 코드를 로컬 모델에 보내고 total이 0일 때 생기는 문제와 수정 방법을 물어볼게요.
def percentage(part, total):
return part / total * 100
인터넷이 연결되어 있을 때 모델과 실행 런타임을 준비해요
LM Studio를 설치하고 Discover 탭에서 모델을 찾아요. 모델 카드에서 GGUF2나 MLX3 등 LM Studio 런타임4이 지원하는 형식인지 확인하고, 메모리에 맞는 양자화5 파일을 선택하세요. 도구 호출6이 필요하다면 고른 모델이 그 기능을 지원하는지도 모델 카드에서 확인해요. 모델 다운로드 안내
모델 다운로드가 끝나면 Chat 탭에서 선택해 메모리에 불러와요. 첫 실행에서 필요한 런타임 설치 안내가 나오면 함께 마치세요. 외부에서 받은 GGUF 파일은 lms import --copy로 LM Studio 모델 폴더에 가져올 수 있어요. OpenRouter만 작동하지 않고 인터넷은 연결되어 있다면 이 준비를 진행할 수 있어요. 인터넷까지 끊기는 상황에 대비하려면 모델과 런타임 다운로드를 미리 끝내두세요. 모델 검색·다운로드, 런타임 설치와 업데이트에는 인터넷 연결이 필요해요. 오프라인 이용 안내 · 모델 가져오기
localhost 서버와 실제 모델 ID를 확인해요
LM Studio의 Developer 탭으로 가서 Server의 Start server를 켜요. 기본 예시 포트는 1234이고 서버 설정에서 바꿀 수 있으니 화면에 표시된 실제 API 주소를 사용하세요. 다른 기기에서 접근하도록 Serve on Local Network를 켜지 말고, 서버를 이 컴퓨터의 localhost에만 둡니다. 서버 실행 · 서버 설정
브라우저나 터미널에서 http://localhost:1234/v1/models를 열어 data 배열의 id를 앱에 복사해요. 포트를 바꿨다면 1234를 실제 번호로 바꾸세요. JIT 로딩이 켜져 있으면 목록에 디스크에 저장되어 있지만 아직 메모리에 올라오지 않은 모델도 포함될 수 있어요. Chat 탭의 모델 로더에서 먼저 불러오거나 Server Settings에서 JIT 로딩을 켜세요. 모델 목록 API · 서버 설정
인증이 기본값이면 이 목록 요청에 외부 API 키를 넣을 필요가 없어요. LM Studio에서 Require Authentication을 켰다면 Server Settings의 Manage Tokens7에서 만든 로컬 API 토큰을 사용하고, 앱의 인증 칸이 요구할 때만 그 토큰을 입력하세요. OpenRouter 키나 다른 클라우드 키는 localhost 요청에 넣지 않아요. LM Studio 인증 설정
curl http://localhost:1234/v1/models앱에 별도 로컬 프로필을 만들고 새 대화를 열어요
앱의 모델 제공자 설정에서 OpenAI-compatible 또는 Custom provider를 새로 선택해 로컬 프로필을 만들어요. OpenRouter 프로필을 복제하면 기존 제공자 유형이나 자동 라우팅이 남을 수 있으니 새 사용자 지정 연결을 선택하세요. Base URL은 http://localhost:1234/v1, 모델 ID는 /v1/models에서 복사한 값으로 설정해요. 앱에 자동 provider fallback이나 모델 라우터가 있다면 끄고, 요청 실패 뒤 외부 서비스로 다시 보내지 않도록 해요. LM Studio Base URL 형식
프로필을 저장한 뒤 로컬 프로필을 선택하고 새 대화를 여세요. 앱이 대화에 포함하는 메시지와 첨부파일을 살펴보고, 이번에 검토할 코드와 질문을 다시 넣어주세요. 이전 클라우드 대화에 있던 코드나 조건도 필요하다면 함께 옮겨요.
짧은 질문으로 연결을 확인하고 코드를 리뷰해요
앱에서 1 더하기 1은 얼마인가요?라고 물어보세요. 답이 돌아오면 질문을 보내고 응답을 받는 기본 연결은 된 거예요. 답이 없으면 다음 절의 오류 표부터 확인하세요. 요청이 정말 LM Studio에 도달했는지 더 확인하고 싶을 때는 아래 로그 점검을 추가하면 돼요.
요청 기록을 확인하려면 터미널에서 lms --help를 실행해 명령 목록이 나오는지 확인해요. 명령을 찾을 수 없다면 LM Studio CLI 준비 안내에 따라 설정하세요. 그런 다음 아래 로그 명령을 실행하고 터미널을 열어두세요.
lms log stream --source server로그를 켰다면 같은 짧은 질문을 다시 보내고 요청이 기록되는지 확인해요. 로그 명령 안내 연결을 확인했으면 예제 함수와 버그를 찾고 최소한의 수정안을 알려줘. total이 0이면 어떻게 돼?를 보내세요. total == 0일 때 ZeroDivisionError가 발생한다는 지적과 수정안을 받은 뒤, 0을 어떻게 처리하고 무엇을 반환하는지 코드와 대조해요.
로컬 모델은 클라우드 모델과 문맥 한도나 도구 호출 지원이 다를 수 있어요. 긴 요청은 코드와 질문을 유지하면서 입력을 줄여 다시 보내고, 도구가 필요한 작업은 앱의 도구 연동을 끄고 켠 결과를 따로 비교하세요. 이 예제에서는 모델이 0 나눗셈 문제를 찾아내고, 제안한 처리 방식이 원하는 반환값을 만드는지 확인하면 돼요.
오류가 나면 주소·모델 ID·인증을 차례로 확인해요
오류가 나면 앱과 LM Studio 로그에서 처음 나타난 상태 코드나 문구를 적어두세요. 아래 표에서 해당하는 증상을 찾아 한 항목씩 고친 뒤, 같은 짧은 질문으로 다시 시험해요. 서버 로그에 요청이 남는지까지 확인하면 앱의 연결 문제와 모델의 답변 문제를 나누기 쉬워요. 정상 응답 후에도 작업 결과가 다르면 문맥 길이·도구 지원·출력 제한을 함께 확인하세요. 서버 상태 안내
| 증상 | 첫 확인 | 그다음 |
|---|---|---|
| 연결 거부·시간 초과 | Developer 탭의 서버 실행 상태 | 앱 Base URL의 localhost와 포트 |
| 모델을 찾을 수 없음 | /v1/models의 id 값 | 앱의 모델 칸과 로딩 상태 |
| 401·인증 오류 | Require Authentication 설정 | 클라우드 키가 아닌 로컬 토큰 |
| 답변은 오지만 도구·문맥 차이 | 모델과 앱의 기능 지원 | 새 대화에서 짧은 공개 코드로 재시험 |
연결 정보를 기록하고 다음 작업을 이어가요
서버 포트와 모델 ID, 모델을 불러올 런타임을 메모해 두면 다음에 새 대화를 열어 같은 점검을 이어갈 수 있어요. 모델 파일과 실행 설정을 함께 보관하는 절차는 로컬 LLM 백업·복원 가이드, 관련 정책의 적용 범위는 AI 수출 관리와 로컬 모델 안내에서 확인하세요.
용어 각주
API — 프로그램의 기능을 다른 코드에서 호출하기 위한 약속된 인터페이스입니다.
본문으로 돌아가기GGUF — 모델 정보를 담는 파일 형식으로 llama.cpp 계열 도구에서 널리 사용됩니다.
본문으로 돌아가기MLX — Apple이 개발하는 머신러닝 프레임워크로, Apple Silicon의 CPU와 GPU가 공유하는 메모리를 활용해 모델을 실행합니다.
본문으로 돌아가기런타임 — 프로그램이 실행될 때 필요한 기능을 제공하는 소프트웨어 환경입니다. 로컬 AI에서는 모델을 실행하는 엔진을 가리키기도 합니다.
본문으로 돌아가기양자화 — 모델의 가중치나 계산값을 더 적은 비트로 표현해 저장 공간과 메모리 사용량을 줄이는 방법입니다. 표현 단계가 거칠어져 정확도에도 영향을 줄 수 있습니다.
본문으로 돌아가기도구 호출 — 모델이 파일 읽기·검색·명령 실행 같은 외부 기능의 이름과 인자를 요청하는 형식입니다. 요청을 실제로 실행할지는 에이전트 런타임과 권한 설정이 결정합니다.
본문으로 돌아가기토큰 — 모델이 입력이나 출력을 나누어 처리하는 단위입니다.
본문으로 돌아가기
자주 묻는 질문
- 이 글에서 가장 먼저 확인할 것은 무엇인가요?
- LM Studio는 내 PC나 Mac에서 모델을 실행하고 다른 앱의 질문에도 답하게 해주는 프로그램이에요. 쓰던 앱이 OpenAI 호환 사용자 지정 연결을 지원하면, 별도 로컬 프로필을 만들어 LM Studio에 연결할 수 있어요. 모델을 미리 준비한 뒤 짧은 코드 리뷰로 연결과 답변을 시험해볼게요.
- 필요한 메모리는 어느 정도인가요?
- LM Studio를 설치하고 Discover 탭에서 모델을 찾아요. 모델 카드에서 GGUF나 MLX 등 LM Studio 런타임이 지원하는 형식인지 확인하고, 메모리에 맞는 양자화 파일을 선택하세요. 도구 호출이 필요하다면 고른 모델이 그 기능을 지원하는지도 모델 카드에서 확인해요. [모델 다운로드 안내](https://lmstudio.ai/docs/app/basics/download-model)
- 조건과 출처는 어디서 확인하나요?
- LM Studio를 설치하고 Discover 탭에서 모델을 찾아요. 모델 카드에서 GGUF나 MLX 등 LM Studio 런타임이 지원하는 형식인지 확인하고, 메모리에 맞는 양자화 파일을 선택하세요. 도구 호출이 필요하다면 고른 모델이 그 기능을 지원하는지도 모델 카드에서 확인해요. [모델 다운로드 안내](https://lmstudio.ai/docs/app/basics/download-model)