NVIDIA DGX Spark 2台構成 256GB 2台のデバイスにモデルを分割して実行する構成 · メモリ総計256GB
ConnectX-7 200Gbps(25GB/s) RoCEリンクで接続された2ノード（合計256GBの分散メモリ、546GB/sの合計ローカル帯域幅）。TP=2の最適化においては単一リクエストの処理速度が向上する可能性がありますが、モデルごとに実測経路を優先適用します。
同じモデルで速度とメモリを確認
ハードウェア Kernel specifications
- 使用可能メモリー
- 232GB
- メモリ帯域
- 546GB/s
- LLM連続負荷の推定
- 約 380W
- 韓国の参考価格（ウォン）
- 1,904万ウォン〜2,060万ウォン
向いている人
- 232GBの利用可能なメモリを活用する
- 分散推論ツール
- GLM-5.3-Flash (MoE)クラスモデル比較
この場合は見送りましょう
2台のデバイスを接続しても、メモリが自動で1台のように統合されません。分散ランタイムサポートおよびインターフェイスのボトルネックを確認する必要があります。
デバイス別推奨フォーマット · 4K入力
このデバイスで体感できるモデル
K2 Horizon 0.9B
必要 1.03GB · 余裕
4ビット・2ノード構成
トークン生成
370.9 ~ 593.4 tok/s
最初のトークン
0.24 ~ 0.62秒
実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。
販売ページでは、チップよりもメモリをまず確認してください。
同じ製品名でも256GB構成でなければ、上記のモデルと速度の条件は変わります。
よくある質問
- 2×DGX Spark 256GBでどのようなローカルLLMを実行できますか？
- K2 Horizon 0.9B, GLM-5.3-Flash (MoE)などを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
- 2× DGX Spark 256GBのローカルLLMパワーアップはどのくらいですか？
- 連続負荷では約380W、実際の範囲は320〜466Wと見ています。
- 表示されたトークン速度は実測値ですか？
- 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。
比較されるデバイス
似たメモリ
Studio M5 Ultra 256GB
Flash-Next 4ビットとMTPを併用した公開計測では、4K入力は約2,600〜2,900 tok/sで処理し、512トークンの回答は約90〜112 tok/sの範囲でした。256K入力でもプリフィルは2,500 tok/s前後を維持しました。大きな統合メモリだけでなく、長いプロンプトでの最初の応答待ちが短くなった点がM3 Ultraとの最も大きな違いです。
似たメモリ
Studio M4 Max 128GB
単一の完成品で70B級から高精度モデルまで幅広く比較したい人に向いています。
似たメモリ
Ryzen AI Max+ 395 128GB
大規模なユニファイドメモリを安価で確保でき、ランタイム設定を直接扱える際には魅力的です。