プリフィル・トークン生成速度
Ryzen AI Max+ 395 128GBでのQwen3.8 27B速度:プリフィル・トークン生成
最終更新
256 GB/s
27B
11.2 ~ 12.5 tok/sデコード速度
モデル全体のロード(17.56GB / 96GB)
最初のトークン (TTFT)
46.6 ~ 85.4秒コンテキスト 4,096トークンを含む
プリフィル速度
48 ~ 88 tok/s46.5 ~ 85.3秒 (スペックベース推定)
全体消費時間(E2E)
約62.8 ~ 103.5秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
今必要なもの
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答構成確認
他のデバイスと並べてみましょうか?
同じモデルでプリフィルから比較したり、トークン生成速度だけを並べて確認できます。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Mac mini M4 32GBのQwen3.8 27B応答速度
5.1 ~ 5.7 tok/s · 16.4 ~ 35.5秒
Qwen3.8 27BにMac mini M4 Pro 48GBは必要?
12.3 ~ 13.7 tok/s · 7.8 ~ 14.3秒
MacBook Pro M5 Pro 64GBでQwen3.8 27Bを試す
14.7 ~ 17.1 tok/s · 8.6 ~ 10.0秒
Mac Studio M4 Max 128GBでQwen3.8 27Bは十分?
27.9 ~ 60.4 tok/s · 5.8 ~ 10.5 秒
