프리필·토큰 생성 속도

DGX Spark 2대, Qwen Flash Next는 얼마나 달라질까?

DGX Spark 두 대로 Qwen3.8 Flash Next를 돌리는 조건입니다. 한 대와 같은 모델을 비교하면서, 더 담을 수 있는 메모리와 한 답변의 생성 속도를 구분해 확인할 수 있습니다.

벤치마크 기반 예상 · 4K 입력 · 한 명 사용

최종 업데이트 2026-10-30

16.7 ~ 33.8 tok/s디코드 속도

모델 전체 적재 (107.13GB / 232GB)

첫 토큰 (TTFT)문맥 4,096토큰 포함

1.7 ~ 4.3초문맥 4,096토큰 포함

프리필 속도1.6 ~ 4.2초 (공개 벤치마크 기반 추정)

973 ~ 2,517 tok/s1.6 ~ 4.2초 (공개 벤치마크 기반 추정)

전체 소요 (E2E)212토큰 답변 합산

약 7.9 ~ 16.9초212토큰 답변 합산

재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.

프리필 건너뛰기

대기 중

장비·모델 변경

실행 기기546 GB/s 합산

모델활성 6B / 상주 180B

세부 조건 펼쳐보기 4-bit · 4K · 기본 디코딩

양자화 정밀도필요 107.13GB

입력 문맥 길이4K 토큰

디코드 최적화기본

프리필 최적화기본

예시 질문:

212 토큰 답변

이 결과를 볼 때

두 대 구성은 메모리 하나가 아니라 연결된 두 노드입니다. 분할 방식과 연결 환경에 따라 결과가 달라지고, 한 요청을 빠르게 끝내는 설정과 여러 요청을 처리하는 설정도 다릅니다. 이 화면은 한 요청의 체감입니다.

한 대와 프리필부터 나란히 재생해 보세요. 두 대여도 단일 답변이 기대만큼 빨라지지 않는다면, 추가 장비의 목적이 더 큰 모델 적재인지 동시 처리인지부터 다시 정하는 편이 좋습니다.

구성 확인

Qwen3.8-Flash-Next Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.

문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기

세부 분석 및 전체 60종 하드웨어 비교

대표 조건