프리필·토큰 생성 속도

맥북 프로 M5 Pro 64GB에서 Qwen3.8 27B 속도 체험

맥북 프로 M5 Pro 64GB를 별도 서버 없이 쓰려는 경우의 Qwen3.8 27B 속도입니다. 코드 입력을 읽는 시간과 답변이 이어지는 속도를 확인하고 데스크톱 GPU 구성과 비교할 수 있습니다.

벤치마크 기반 예상 · 4K 입력 · 한 명 사용

최종 업데이트 2026-10-30

14.7 ~ 17.1 tok/s디코드 속도

모델 전체 적재 (17.56GB / 56GB)

첫 토큰 (TTFT)문맥 4,096토큰 포함

8.6 ~ 10.0초문맥 4,096토큰 포함

프리필 속도8.6 ~ 9.9초 (제출 기록 기반 추정)

412 ~ 479 tok/s8.6 ~ 9.9초 (제출 기록 기반 추정)

전체 소요 (E2E)212토큰 답변 합산

약 20.9 ~ 24.4초212토큰 답변 합산

재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.

프리필 건너뛰기

대기 중

장비·모델 변경

실행 기기307 GB/s

모델27B

세부 조건 펼쳐보기 4-bit · 4K · 기본 디코딩

양자화 정밀도필요 17.56GB

입력 문맥 길이4K 토큰

디코드 최적화기본

프리필 최적화기본

예시 질문:

212 토큰 답변

이 결과를 볼 때

노트북을 고르는 이유에는 이동성과 한 대로 끝내는 편의도 있습니다. 속도표는 그 가치를 대신 계산하지 않습니다. 먼저 이 응답 흐름으로 작업할 수 있는지 보고, 부족할 때 외부 장비가 필요한지 판단하세요.

RTX 5090은 그래픽카드이고 맥북은 완제품입니다. 여기서는 같은 모델의 속도를 비교하되, 구입 비용을 볼 때는 GPU를 넣을 PC 본체도 포함하세요.

구성 확인

Qwen3.8 27B Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.

문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기

세부 분석 및 전체 61종 하드웨어 비교

대표 조건