Mac mini M4 24GB에서 어떤 로컬 LLM을 돌릴 수 있나요?

K2 Horizon 0.9B, Gemma 4 12B, K2 Horizon MoVA 36B-A4B 등을 4K 입력과 장비별 추천 포맷으로 비교할 수 있습니다. 모델과 문맥 길이에 따라 필요한 메모리는 달라집니다.

Mac mini M4 24GB의 로컬 LLM 전력은 어느 정도인가요?

지속 부하 기준 약 45W이며 실제 범위는 30–60W로 예상합니다.

표시된 토큰 속도는 실측값인가요?

수집한 벤치마크 실측을 같은 조건으로 맞춘 범위입니다. 동일 조건의 실측이 없는 조합만 가까운 실측값을 기준으로 추정하며, 런타임, 냉각, 양자화 파일과 문맥 길이에 따라 달라질 수 있습니다.

2026.09 업데이트

맥 미니 M4 24GB 12B급으로 요약과 짧은 코딩을 한다면, 먼저 24GB에서 확인하세요.

짧은 문서를 요약하고 코드 한 부분을 묻는 용도라면 큰 모델보다 지금 쓸 모델의 답변이 충분한지부터 보세요. 12B급 Q4가 목적에 맞으면, 32GB를 사야 할 이유는 메모리 여유가 더 필요한 작업이 있을 때입니다.

같은 모델로 속도와 메모리 확인

Mac mini M4 24GB · Qwen3.8 27B · 로컬 LLM 속도·메모리: 입력 처리 · 프리필 116–252 tok/s · 토큰 생성 · 디코드 5.1–5.7 tok/s; 필요 17.56GB / 가용 20GB 통합 메모리 — 4,096토큰 입력 · 단일 요청 · 프롬프트 캐시 끔

이 설정으로 속도 계산하기 계산·자료 근거 CC BY 4.0

사용 가능 메모리: 20GB
메모리 대역폭: 120GB/s
LLM 지속 부하 추정: 약 45W
현재 참고 범위: 150만원–235만원

잘 맞는 사람

12B로 짧은 문서 요약
함수·코드 일부 질문
책상 위 소형 본체

이 경우에는 건너뛰세요

27B Q4에 긴 문서를 넣는 일이 주목적이라면, 그 입력 길이에서 메모리 여유를 확인하기 전에는 고르지 마세요. macOS와 열린 앱도 24GB를 함께 쓰며, 구매 후 RAM만 추가할 수 없습니다.

장비별 추천 포맷 · 4K 입력

이 장비에서 체감할 모델

기본 디코딩 · 예상 범위

K2 Horizon 0.9B

필요 1.03GB · 여유

MLX 4비트

토큰 생성

154 ~ 172.1 tok/s

첫 토큰

1.5 ~ 3.8초

Gemma 4 12B

어떤 작업에 맞는가

문서·RAG

적합

12B Q4와 필요한 문서 일부를 넣는 구성부터 시작하세요. PDF 페이지 수보다 실제로 모델에 보내는 입력량이 메모리를 좌우합니다.

코딩 보조

적합

함수 하나를 설명하거나 짧은 수정을 제안받는 용도부터 확인하세요. 저장소 전체를 넣는 작업까지 같은 속도로 보기는 어렵습니다.

27B 대화

조건부

27B Q4는 모델 파일과 캐시가 함께 들어가는지 확인해야 합니다. 입력을 길게 쓰려면 32GB와 같은 조건으로 비교하세요.

가장 먼저 막히는 것: 모델이 메모리에 들어간 뒤에는 용량을 늘려도 생성 속도가 그만큼 오르지 않습니다. M4 24GB와 32GB는 같은 120GB/s 대역폭을 사용합니다. 기다림이 문제라면 용량보다 Pro와 같은 조건의 속도를 비교하세요.
확인할 구성: M4 · 10코어 GPU · 통합 메모리 24GB · SSD 512GB 권장
돈을 더 쓸 기준: 12B급의 답변과 대기 시간이 괜찮다면 여기서 멈춰도 됩니다. 더 큰 모델을 정했거나 다른 앱과 함께 쓸 때 메모리가 모자랄 경우에만 32GB의 추가 비용을 검토하세요.

판매 페이지에서는 칩보다 메모리를 먼저 보세요.

같은 제품명이라도 24GB 구성이 아니면 위 모델과 속도 조건이 달라집니다.

자주 묻는 질문

Mac mini M4 24GB에서 어떤 로컬 LLM을 돌릴 수 있나요?: K2 Horizon 0.9B, Gemma 4 12B, K2 Horizon MoVA 36B-A4B 등을 4K 입력과 추천 포맷으로 비교할 수 있어요. 필요한 메모리는 모델과 문맥 길이에 따라 달라져요.
Mac mini M4 24GB의 로컬 LLM 전력은 어느 정도인가요?: 지속 부하 기준 약 45W이고 실제 범위는 30–60W로 보여요.
표시된 토큰 속도는 실측값인가요?: 수집한 벤치마크 실측을 같은 조건으로 맞춘 범위예요. 같은 조건의 실측이 없는 조합은 가까운 실측값을 기준으로 추정하고, 런타임과 냉각, 양자화 파일, 문맥 길이에 따라 달라져요.

16GB로 충분하다면

Mac mini M4 16GB

비용을 최소화해 8B~12B급 모델부터 시작할 때 맞는 구성입니다.

27B·메모리 여유

Mac mini M4 32GB

27B Q4를 쓰고 싶은데 PC를 새로 조립할 생각은 없을 때 비교할 구성입니다. 24GB에서 메모리가 부족했다면 여유를 늘리는 의미가 있습니다. 반대로 모델과 캐시가 이미 모두 들어갔다면, 32GB만으로 칩 자체가 빨라지는 것은 아닙니다.

같은 모델의 속도 비교

Mac mini M4 Pro 48GB

27B급 모델로 문서를 읽히고 코드를 고치는 일을 반복한다면 용량뿐 아니라 매번 기다리는 시간도 중요해집니다. 이 페이지는 20코어 GPU·48GB 구성입니다. 더 저렴한 16코어 GPU 판매 옵션과 구분해 보세요.