プリフィル・トークン生成速度
Studio M3 Ultra 512GBでのQwen3.8-Flash-Next速度:プリフィル・トークン生成
最終更新
819 GB/s
アクティブ 6B / 常駐する重み 180B
50 ~ 70.3 tok/sデコード速度
モデル全体のロード(107.13GB / 480GB)
最初のトークン (TTFT)
3.3 ~ 4.5秒コンテキスト 4,096トークンを含む
プリフィル速度
910 ~ 1,229 tok/s3.3 ~ 4.5秒 (実測に基づく補正)
全体消費時間(E2E)
約6.2 ~ 8.6秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
今必要なもの
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 107.13GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答構成確認
Studio M3 Ultra 512GB · メモリ 512GB
Qwen3.8-Flash-Next Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
すでに持っている方は実行設定へ他のデバイスと並べてみましょうか?
同じモデルでプリフィルから比較したり、トークン生成速度だけを並べて確認できます。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Mac Studio M5 Ultra 512GBでQwen Flash Nextの速度
103.5 ~ 184.1 tok/s · 0.65 ~ 1.2 秒
RTX PRO 6000 96GB × Qwen3.8-Flash-Next
175.2 ~ 340.0 tok/s · 1.2 ~ 2.2 秒
DGX Spark 2台でQwen Flash Nextはどう変わる?
16.7 ~ 33.8 tok/s · 1.7 ~ 4.3秒
2× RTX 5090 64GB (PCIe) × Qwen3.8-Flash-Next
127.7 ~ 263.9 tok/s · 0.46 ~ 0.94 秒
