プリフィル・トークン生成速度
DGX Spark 128GBでのQwen3.6 35B-A3B (MoE)速度：プリフィル・トークン生成
最終更新
273 GB/s
アクティブ 3B / 総35B
61.2 ~ 111.1 tok/sデコード速度(基本： 同条件の基準値なし)
モデル全体のロード（24.32GB / 116GB)
最初のトークン (TTFT)
1.5 ~ 3.1 秒コンテキスト 4,096トークンを含む
プリフィル速度
1,341 ~ 2,661 tok/s1.5 ~ 3.1秒 (公開ベンチマークに基づく推定)
全体消費時間（E2E）
3.4 ~ 6.4 秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
詳細条件を展開する 詳細条件NVFP4 · 4K · NVFP4 + MTP折りたたむ
量子化精度必要 24.32GB
vLLM · Spark向け設定ではMoEにMarlin、MTPにTritonが案内されています。NVFP4を選ぶだけではMTPは有効になりません。
入力文脈長4K トークン
NVFP4 + MTP
基本
例質問：
203 トークン回答構成確認
DGX Spark 128GB · メモリ 128GB
Qwen3.6 35B-A3B (MoE) NVFP4 の構成です。販売ページのメモリ容量が同じか確認してください。
すでに持っている方は実行設定へ他のデバイスと並べてみましょうか？
同じモデルでプリフィルから比較したり、トークン生成速度だけを並べて確認できます。
文書が長くなると、どう変わる？入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較
代表的な条件