프리필·토큰 생성 속도

맥 스튜디오 M5 Ultra 512GB, Qwen Flash Next 속도 체감

M5 Ultra 512GB에 Qwen3.8 Flash Next를 올린 속도 체험입니다. 모델을 담을 수 있는 용량과 답변을 생성하는 속도를 따로 보고, 같은 512GB M3 Ultra 구성과 비교할 수 있습니다.

벤치마크 기반 예상 · 4K 입력 · 한 명 사용

최종 업데이트 2026-10-30

103.5 ~ 184.1 tok/s디코드 속도(기본: 동일 조건 기준값 없음)

모델 전체 적재 (155GB / 480GB)

첫 토큰 (TTFT)문맥 4,096토큰 포함

0.65 ~ 1.2 초문맥 4,096토큰 포함

프리필 속도0.65 ~ 1.1 초 (공개 측정 기반 예상)

3563.3 ~ 6334.7 tok/s0.65 ~ 1.1 초 (공개 측정 기반 예상)

전체 소요 (E2E)212토큰 답변 합산

1.8 ~ 3.2 초212토큰 답변 합산

재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.

프리필 건너뛰기

대기 중

장비·모델 변경

실행 기기1200 GB/s

모델활성 6B / 상주 180B

세부 조건 펼쳐보기 4-bit · 4K · Lightning MTP

양자화 정밀도필요 155GB

입력 문맥 길이4K 토큰

디코드 최적화Lightning MTP

프리필 최적화기본

예시 질문:

212 토큰 답변

이 결과를 볼 때

큰 메모리를 선택할 때도 모델 파일의 용량만 보면 부족합니다. 문맥과 가속용 버퍼까지 포함한 필요 메모리를 확인해야 합니다. 이 화면은 한 명이 사용하는 조건이며, 여러 에이전트를 동시에 돌리는 처리량을 뜻하지는 않습니다.

필요 메모리 / 사용 가능: 155.0GB / 480GB
실행 경로: oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on

M3 Ultra 512GB와 같은 모델로 비교하면 용량과 세대 차이를 구분하기 쉽습니다. 512GB 구성의 판매 여부와 주문 조건은 장비 상세에서 별도로 확인하세요.

구성 확인

Qwen3.8-Flash-Next Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.

문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기

세부 분석 및 전체 60종 하드웨어 비교

대표 조건