프리필·토큰 생성 속도
맥 미니 M4 Pro 48GB, Qwen3.8 27B에 돈을 더 쓸까?
M4 Pro 48GB를 Qwen3.8 27B용으로 살 때 확인할 속도입니다. 프리필과 토큰 생성을 나눠 보고, M4 32GB에서 올라갈 이유가 자신의 작업에도 있는지 비교해 보세요.
벤치마크 기반 예상 · 4K 입력 · 한 명 사용
최종 업데이트
12.3 ~ 13.7 tok/s디코드 속도
모델 전체 적재 (17.56GB / 41GB)
첫 토큰 (TTFT)
7.8 ~ 14.3초문맥 4,096토큰 포함
프리필 속도
289 ~ 530 tok/s7.7 ~ 14.2초 (실측 기반 보정)
전체 소요 (E2E)
약 23.2 ~ 31.4초212토큰 답변 합산
재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.
대기 중
장비·모델 변경
273 GB/s
27B
세부 조건 펼쳐보기 세부 조건4-bit · 4K · 기본 디코딩접기
양자화 정밀도필요 17.56GB
입력 문맥 길이4K 토큰
기본
기본
예시 질문:
212 토큰 답변이 결과를 볼 때
코드나 문서를 길게 붙여 넣는 작업에서는 첫 문장이 나오기 전의 기다림도 반복됩니다. 답변이 시작된 뒤의 tok/s만 보고 고르면 이 차이를 놓칠 수 있습니다. 평소 입력 길이에 가까운 조건으로 다시 확인하세요.
- 필요 메모리 / 사용 가능
- 17.6GB / 41GB
- 실행 경로
- MLX 4비트
구성 확인
Mac mini M4 Pro 48GB · 메모리 48GB
Qwen3.8 27B Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.
문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기
세부 분석 및 전체 61종 하드웨어 비교
대표 조건