프리필·토큰 생성 속도
맥 스튜디오 M4 Max 128GB, Qwen3.8 27B에는 충분할까?
맥 스튜디오 M4 Max 128GB에서 Qwen3.8 27B의 프리필과 토큰 생성을 확인합니다. 큰 메모리가 필요한지, 지금 쓰려는 모델에서는 더 작은 구성이 충분한지 나란히 비교할 수 있습니다.
벤치마크 기반 예상 · 4K 입력 · 한 명 사용
최종 업데이트
27.9 ~ 60.4 tok/s디코드 속도(기본: 동일 조건 기준값 없음)
모델 전체 적재 (17.86GB / 114GB)
첫 토큰 (TTFT)
5.8 ~ 10.5 초문맥 4,096토큰 포함
프리필 속도
393 ~ 707 tok/s5.8 ~ 10.4초 (실측 기반 보정)
전체 소요 (E2E)
9.3 ~ 18.0 초212토큰 답변 합산
재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.
대기 중
장비·모델 변경
546 GB/s
27B
세부 조건 펼쳐보기 세부 조건4-bit · 4K · MTP 가속 (실험적)접기
양자화 정밀도필요 17.86GB
입력 문맥 길이4K 토큰
MTP 가속 (실험적)
기본
예시 질문:
212 토큰 답변이 결과를 볼 때
128GB를 채우지 않는 작업이라면 남는 메모리만큼 응답이 빨라지는 것은 아닙니다. 더 큰 모델이나 여러 작업을 함께 돌릴 계획과, 지금 27B 모델 한 개를 쓰는 경우를 나눠 생각하세요.
- 필요 메모리 / 사용 가능
- 17.9GB / 114GB
- 실행 경로
- oMLX 0.6.1 · native MTP k=3 · ANE prefill not enabled in this recipe
구성 확인
Studio M4 Max 128GB · 메모리 128GB
Qwen3.8 27B Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.
문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기
세부 분석 및 전체 61종 하드웨어 비교
대표 조건