프리필·토큰 생성 속도

Ryzen AI Max+ 395 128GB에서 Qwen3.8 27B 속도: 프리필·토큰 생성

최종 업데이트

256 GB/s
27B
11.2 ~ 12.5 tok/s디코드 속도
모델 전체 적재 (17.56GB / 96GB)
첫 토큰 (TTFT)
46.6 ~ 85.4초문맥 4,096토큰 포함
프리필 속도
48 ~ 88 tok/s46.5 ~ 85.3초 (사양 기반 추정)
전체 소요 (E2E)
약 63.5 ~ 104.3초212토큰 답변 합산
재생 버튼을 누르면 문맥 프리필 후 생성이 시작됩니다.
대기 중
세부 조건 펼쳐보기 4-bit · 4K · 기본 디코딩
양자화 정밀도필요 17.56GB
입력 문맥 길이4K 토큰
기본
기본
예시 질문:
212 토큰 답변

구성 확인

Ryzen AI Max+ 395 128GB · 메모리 128GB

Qwen3.8 27B Q4_K_M 기준입니다. 판매 페이지의 메모리 옵션이 같은지 확인하세요.

이미 갖고 있다면 실행 설정 보기

다른 장비와 나란히 볼까요?

같은 모델로 프리필부터 비교하거나 토큰 생성 속도만 나란히 볼 수 있습니다.

문서가 길어지면 얼마나 달라질까?입력 길이별 대기 시간·속도·메모리 펼치기
세부 분석 및 전체 61종 하드웨어 비교

대표 조건

전체 20개 보기