로컬 AI 가이드
로컬 LLM 모델별 권장 사양
최신 오픈 가중치 모델의 Q4 필요 메모리, 네이티브 문맥 길이, 양자화 조건과 대표 장비별 예상 속도를 구매 전에 비교합니다.
모델에서 장비로
이 모델을 돌릴 장비 찾기
문서 검색도 함께 돌린다면
임베딩·재정렬 모델을 같은 GPU 또는 통합 메모리에 올릴 때 남겨둘 공간입니다. CPU에서 따로 실행한다면 추가 없음으로 두세요.
조건에 맞는 장비 51· 5개 표시
가격은 범위의 중간값이며 GPU 단품에는 기본 본체 비용을 더했습니다. 속도는 동일 모델·4K 입력의 추정 범위입니다.
이 목록을 보는 순서
모델의 총 파라미터만 보지 말고 Q4 필요 메모리와 활성 파라미터를 함께 확인하세요. 같은 모델이라도 장비의 가용 메모리와 대역폭에 따라 적재 여부와 체감 속도가 달라집니다.
Bonsai
Bonsai 2 27B 로컬 LLM 권장 사양·속도·양자화
Bonsai 2 27B TERNARY_PQ2 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
DeepSeek
DeepSeek-V4.1-Flash 로컬 LLM 권장 사양·속도·양자화
DeepSeek-V4.1-Flash의 Spark, RTX 5090·128GB RAM, M3 Ultra 256GB 실행 사례를 비교합니다. 포맷별 저장 용량과 공개 디코드 측정, 프리필 확인 여부를 구분합니다.
Ling
Ling-3.0-flash-VL 로컬 LLM 권장 사양·속도·양자화
Ling-3.0-flash-VL MXFP4 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 131,072 토큰 문맥 조건을 비교합니다.
MiniCPM
MiniCPM5-2B 로컬 LLM 권장 사양·속도·양자화
MiniCPM5-2B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 131,072 토큰 문맥 조건을 비교합니다.
Qwen
Qwen3.8 27B 로컬 LLM 권장 사양·속도·양자화
Qwen3.8 27B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
Qwen
Qwen3.8-Flash-Next 로컬 LLM 권장 사양·속도·양자화
Qwen3.8-Flash-Next Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
Gemma
Gemma 4 12B 로컬 LLM 권장 사양·속도·양자화
Gemma 4 12B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
Gemma
Gemma 4 26B-A4B (MoE) 로컬 LLM 권장 사양·속도·양자화
Gemma 4 26B-A4B (MoE) Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
Qwen
Qwen3.6 35B-A3B (MoE) 로컬 LLM 권장 사양·속도·양자화
Qwen3.6 35B-A3B (MoE) Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
GLM
GLM-5.3-Flash (MoE) 로컬 LLM 권장 사양·속도·양자화
GLM-5.3-Flash (MoE) Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 1,048,576 토큰 문맥 조건을 비교합니다.
DeepSeek
DeepSeek-V4-Flash-0731 (MoE) 로컬 LLM 권장 사양·속도·양자화
DeepSeek-V4-Flash-0731 (MoE) Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 1,048,576 토큰 문맥 조건을 비교합니다.
Holo4
Holo4 27B 로컬 LLM 권장 사양·속도·양자화
Holo4 27B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
Holo4
Holo4 35B-A3B 로컬 LLM 권장 사양·속도·양자화
Holo4 35B-A3B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
LFM
LFM2.5-VL-3B 로컬 LLM 권장 사양·속도·양자화
LFM2.5-VL-3B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 32,768 토큰 문맥 조건을 비교합니다.
K2 Horizon
K2 Horizon 0.9B 로컬 LLM 권장 사양·속도·양자화
K2 Horizon 0.9B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 131,072 토큰 문맥 조건을 비교합니다.
K2 Horizon
K2 Horizon 3.7B 로컬 LLM 권장 사양·속도·양자화
K2 Horizon 3.7B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 524,288 토큰 문맥 조건을 비교합니다.
K2 Horizon
K2 Horizon 7B 로컬 LLM 권장 사양·속도·양자화
K2 Horizon 7B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 524,288 토큰 문맥 조건을 비교합니다.
K2 Horizon
K2 Horizon 32B 로컬 LLM 권장 사양·속도·양자화
K2 Horizon 32B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 524,288 토큰 문맥 조건을 비교합니다.
K2 Horizon
K2 Horizon MoVA 36B-A4B 로컬 LLM 권장 사양·속도·양자화
K2 Horizon MoVA 36B-A4B Q4_K_M 실행의 예상 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 524,288 토큰 문맥 조건을 비교합니다.