프리필·토큰 생성 속도
Studio M4 Max 128GB에서 Qwen3.6 35B-A3B (MoE) 속도: 프리필·토큰 생성
최종 업데이트
546 GB/s
활성 3B / 총 35B
39.2 ~ 81.9 tok/s디코드 속도
모델 전체 적재 (21.28GB / 114GB)
첫 토큰 (TTFT)
1.5 ~ 3.1초문맥 4,096토큰 포함
프리필 속도
1,316 ~ 2,751 tok/s1.5 ~ 3.1초 (실측 기반 보정)
전체 소요 (E2E)
약 4.1 ~ 8.5초212토큰 답변 합산
재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.
대기 중
지금 필요한 것
세부 조건 펼쳐보기 세부 조건4-bit · 4K · 기본 디코딩접기
양자화 정밀도필요 21.28GB
입력 문맥 길이4K 토큰
기본
기본
예시 질문:
212 토큰 답변구성 확인
Studio M4 Max 128GB · 메모리 128GB
Qwen3.6 35B-A3B (MoE) Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.
이미 갖고 있다면 실행 설정 보기다른 장비와 나란히 볼까요?
같은 모델로 프리필부터 비교하거나 토큰 생성 속도만 나란히 볼 수 있습니다.
문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기
세부 분석 및 전체 60종 하드웨어 비교
대표 조건
장비·모델별 속도 체험
Mac mini M4 Pro 64GB × Qwen3.6 35B-A3B (MoE)
19.6 ~ 46.1 tok/s · 2.7 ~ 6.3초
DGX Spark 128GB × Qwen3.6 35B-A3B (MoE)
61.2 ~ 111.1 tok/s · 1.5 ~ 3.1 초
2× RTX 3090 48GB (NVLink) × Qwen3.6 35B-A3B (MoE)
79.2 ~ 248.6 tok/s · 0.63 ~ 1.4초
맥 스튜디오 M4 Max 128GB, Qwen3.8 27B에는 충분할까?
27.9 ~ 60.4 tok/s · 5.8 ~ 10.5 초
