로컬 AI 가이드
로컬 LLM 대표 속도 결과
장비와 모델이 선택된 20개 대표 조건에서 프리필, 첫 토큰 시간과 토큰 생성 속도를 확인합니다. 같은 모델의 다른 장비 결과와 실행 설정도 이어서 볼 수 있습니다.
이 목록을 보는 순서
확인하려는 장비와 모델을 고르면 해당 조건으로 바로 시작합니다. 다른 조합은 속도 화면에서 바꿀 수 있습니다.
Q4_K_M · 4K
맥 미니 M4 24GB에서 Gemma 4 12B, 대화할 만할까?
맥 미니 M4 24GB에 Gemma 4 12B를 올린 조건입니다. 첫 답변을 기다리는 시간과 문장이 이어지는 속도를 보고, 문서 요약이나 짧은 대화에 충분한지 판단해 보세요.
Q4_K_M · 4K
맥 미니 M4 32GB, Qwen3.8 27B 답변은 얼마나 빠를까?
맥 미니 M4 32GB에서 Qwen3.8 27B를 실행하는 속도입니다. 모델이 들어가는지만 확인하지 말고, 짧은 질문과 긴 답변을 실제로 기다릴 만한지 아래 흐름으로 확인하세요.
Q4_K_M · 4K
맥 미니 M4 Pro 48GB, Qwen3.8 27B에 돈을 더 쓸까?
M4 Pro 48GB를 Qwen3.8 27B용으로 살 때 확인할 속도입니다. 프리필과 토큰 생성을 나눠 보고, M4 32GB에서 올라갈 이유가 자신의 작업에도 있는지 비교해 보세요.
Q4_K_M · 4K
Mac mini M4 Pro 64GB에서 Qwen3.6 35B-A3B (MoE) 속도: 프리필·토큰 생성
Mac mini M4 Pro 64GB에서 Qwen3.6 35B-A3B (MoE) 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
맥북 프로 M5 Pro 64GB에서 Qwen3.8 27B 속도 체험
맥북 프로 M5 Pro 64GB를 별도 서버 없이 쓰려는 경우의 Qwen3.8 27B 속도입니다. 코드 입력을 읽는 시간과 답변이 이어지는 속도를 확인하고 데스크톱 GPU 구성과 비교할 수 있습니다.
Q4_K_M · 4K
맥 스튜디오 M4 Max 128GB, Qwen3.8 27B에는 충분할까?
맥 스튜디오 M4 Max 128GB에서 Qwen3.8 27B의 프리필과 토큰 생성을 확인합니다. 큰 메모리가 필요한지, 지금 쓰려는 모델에서는 더 작은 구성이 충분한지 나란히 비교할 수 있습니다.
Q4_K_M · 4K
Studio M4 Max 128GB에서 Qwen3.6 35B-A3B (MoE) 속도: 프리필·토큰 생성
Studio M4 Max 128GB에서 Qwen3.6 35B-A3B (MoE) 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
Studio M3 Ultra 512GB에서 Qwen3.8-Flash-Next 속도: 프리필·토큰 생성
Studio M3 Ultra 512GB에서 Qwen3.8-Flash-Next 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
맥 스튜디오 M5 Ultra 512GB, Qwen Flash Next 속도 체감
M5 Ultra 512GB에 Qwen3.8 Flash Next를 올린 속도 체험입니다. 모델을 담을 수 있는 용량과 답변을 생성하는 속도를 따로 보고, 같은 512GB M3 Ultra 구성과 비교할 수 있습니다.
Q4_K_M · 4K
RTX 3090 24GB에서 Gemma 4 12B 속도: 프리필·토큰 생성
RTX 3090 24GB에서 Gemma 4 12B 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
RTX 3090 24GB에서 Qwen3.8 27B, 업그레이드가 필요할까?
RTX 3090 24GB를 갖고 있다면 Qwen3.8 27B가 이 속도로 답하는지 먼저 확인해 보세요. 같은 모델의 RTX 5090 결과와 비교하고, 메모리와 대기시간 중 무엇이 부족한지 구분할 수 있습니다.
Q4_K_M · 4K
RTX 4090 24GB, Qwen3.8 27B의 프리필·생성 속도
RTX 4090 24GB에서 Qwen3.8 27B가 입력을 읽고 답변하는 속도입니다. 같은 24GB인 RTX 3090과 비교해, 메모리 용량이 같아도 대기시간이 어떻게 달라지는지 확인할 수 있습니다.
NVFP4 · 4K
RTX 5090에서 Qwen3.8 27B, 권장 설정으로 속도 비교
RTX 5090 32GB에서 Qwen3.8 27B의 권장 실행 조건을 바로 체험합니다. 적용되는 양자화와 가속을 확인하고, RTX 4090에서 넘어갈 때 프리필과 답변 속도가 얼마나 달라지는지 비교하세요.
Q4_K_M · 4K
RTX 5090 32GB에서 Gemma 4 26B-A4B (MoE) 속도: 프리필·토큰 생성
RTX 5090 32GB에서 Gemma 4 26B-A4B (MoE) 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
RTX PRO 6000 96GB에서 Qwen3.8-Flash-Next 속도: 프리필·토큰 생성
RTX PRO 6000 96GB에서 Qwen3.8-Flash-Next 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
NVFP4 · 4K
DGX Spark 128GB에서 Qwen3.6 35B-A3B (MoE) 속도: 프리필·토큰 생성
DGX Spark 128GB에서 Qwen3.6 35B-A3B (MoE) 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
DGX Spark 2대, Qwen Flash Next는 얼마나 달라질까?
DGX Spark 두 대로 Qwen3.8 Flash Next를 돌리는 조건입니다. 한 대와 같은 모델을 비교하면서, 더 담을 수 있는 메모리와 한 답변의 생성 속도를 구분해 확인할 수 있습니다.
Q4_K_M · 4K
2× RTX 3090 48GB (NVLink)에서 Qwen3.6 35B-A3B (MoE) 속도: 프리필·토큰 생성
2× RTX 3090 48GB (NVLink)에서 Qwen3.6 35B-A3B (MoE) 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
IQ3_S · 4K
2× RTX 5090 64GB (PCIe)에서 Qwen3.8-Flash-Next 속도: 프리필·토큰 생성
2× RTX 5090 64GB (PCIe)에서 Qwen3.8-Flash-Next 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.
Q4_K_M · 4K
Ryzen AI Max+ 395 128GB에서 Qwen3.8 27B 속도: 프리필·토큰 생성
Ryzen AI Max+ 395 128GB에서 Qwen3.8 27B 모델을 권장 설정으로 실행할 때의 프리필, 첫 토큰 시간과 토큰 생성 속도를 같은 4K 입력 조건으로 체감합니다.