프리필·토큰 생성 속도

맥 미니 M4 24GB에서 Gemma 4 12B, 대화할 만할까?

맥 미니 M4 24GB에 Gemma 4 12B를 올린 조건입니다. 첫 답변을 기다리는 시간과 문장이 이어지는 속도를 보고, 문서 요약이나 짧은 대화에 충분한지 판단해 보세요.

벤치마크 기반 예상 · 4K 입력 · 한 명 사용

최종 업데이트 2026-10-30

11.6 ~ 12.9 tok/s디코드 속도

모델 전체 적재 (8GB / 20GB)

첫 토큰 (TTFT)문맥 4,096토큰 포함

12.8 ~ 31.1초문맥 4,096토큰 포함

프리필 속도12.7 ~ 31.0초 (공개 벤치마크 기반 추정)

132 ~ 323 tok/s12.7 ~ 31.0초 (공개 벤치마크 기반 추정)

전체 소요 (E2E)218토큰 답변 합산

약 29.6 ~ 49.8초218토큰 답변 합산

재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.

프리필 건너뛰기

대기 중

장비·모델 변경

실행 기기120 GB/s

모델11.95B

세부 조건 펼쳐보기 4-bit · 4K · 기본 디코딩

양자화 정밀도필요 8GB

입력 문맥 길이4K 토큰

디코드 최적화기본

프리필 최적화기본

예시 질문:

218 토큰 답변

이 결과를 볼 때

24GB라는 숫자 전체를 모델에 쓸 수는 없습니다. 운영체제와 다른 앱이 사용하는 공간을 뺀 가용 메모리와 모델의 필요량을 함께 보세요. 입력 문서가 길어지면 대기시간과 메모리 조건도 달라집니다.

32GB를 고민한다면 먼저 같은 Gemma 모델로 비교하세요. 모델을 바꾸지 않아야 추가 메모리가 지금 작업에 필요한지 구분할 수 있습니다.

구성 확인

Gemma 4 12B Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.

문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기

세부 분석 및 전체 60종 하드웨어 비교

대표 조건

95.5 ~ 106.1 tok/s · 2.2 ~ 3.8초

5.1 ~ 5.7 tok/s · 16.4 ~ 35.5초

12.3 ~ 13.7 tok/s · 7.8 ~ 14.3초

19.6 ~ 46.1 tok/s · 2.7 ~ 6.3초