プリフィル・トークン生成速度

DGX Spark 2台でQwen Flash Nextはどう変わる？

DGX Spark 2台でQwen3.8 Flash Nextを動かす条件です。1台と同じモデルで比較し、搭載容量の増加と一つの応答の生成速度を分けて確認できます。

ベンチマーク基準の推定 · 4K入力 · 単一ユーザー

最終更新 2026-10-30

16.7 ~ 33.8 tok/sデコード速度

モデル全体のロード（107.13GB / 232GB)

最初のトークン (TTFT)コンテキスト 4,096トークンを含む

1.7 ~ 4.3秒コンテキスト 4,096トークンを含む

プリフィル速度1.6 ~ 4.2秒 (公開ベンチマークに基づく推定)

973 ~ 2,517 tok/s1.6 ~ 4.2秒 (公開ベンチマークに基づく推定)

全体消費時間（E2E）203トークン回答合計

約7.6 ~ 16.4秒203トークン回答合計

再生ボタンを押すと、文脈プリフィル後に生成が開始されます。

プリフィルスキップ

待機中

機器・モデルを変更

実行デバイス546 Gbps 合計

モデルアクティブ 6B / 常駐する重み 180B

詳細条件を展開する 4-bit · 4K · 通常のデコード

量子化精度必要 107.13GB

入力文脈長4K トークン

デコード最適化基本

プリフィル最適化基本

例質問：

203 トークン回答

結果を見るポイント

2台構成は一つのメモリではなく、接続された二つのノードです。分割方法や接続環境で結果は変わり、単一応答と複数要求の処理量では設定も異なります。この画面は一つの要求の体感です。

1台とプリフィルから並べて比較できます。2台でも単一応答が期待ほど速くならないなら、追加機器の目的が大型モデルなのか同時処理なのかを改めて考えましょう。

構成確認

Qwen3.8-Flash-Next Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。

文書が長くなると、どう変わる？入力長ごとの待ち時間・速度・メモリを開く

詳細分析および全体 60ハードウェア比較

代表的な条件

50 ~ 70.3 tok/s · 3.3 ~ 4.5秒

103.5 ~ 184.1 tok/s · 0.65 ~ 1.2 秒

175.2 ~ 340.0 tok/s · 1.2 ~ 2.2 秒

127.7 ~ 263.9 tok/s · 0.46 ~ 0.94 秒