DGX Spark 128GBでどのようなローカルLLMを実行できますか？

K2 Horizon 0.9B, Qwen3.8-Flash-Next, DeepSeek-V4.1-Flashなどを4K入力とハードウェア別の推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。

DGX Spark 128GB のローカル LLM パワーアップはどのくらいですか？

継続的な負荷基準では約190Wで、実際の範囲は160–233Wと予想されます。

表示されたトークン速度は実測値ですか？

収集した実測ベンチマークを同じ条件にそろえた範囲です。同条件の実測がない組み合わせだけを近い実測値から推定します。結果はランタイム、冷却、モデルファイル、コンテキスト長で変わることがあります。

2026.10 更新

NVIDIA DGX Spark 128GB 32GBに収まらないモデルをCUDAで使いたいのか、そこから決めてください。

大きなモデルを複数のグラフィックカードに分けず、1台で扱う用途です。128GBという容量を買う理由が必要です。今使うモデルが24GBや32GBに収まるなら、Sparkの大きなメモリだけを見て速いと期待しないでください。

同じモデルで速度とメモリを確認

DGX Spark 128GB · Qwen3.8 27B · ローカルLLM速度・メモリ: 入力処理 · プリフィル 308–612 tok/s · トークン生成 · デコード 42.8–50.3 tok/s; 必要 31.99GB / 使用可能 116GB ユニファイドメモリ — 入力4,096トークン · 単一リクエスト · キャッシュなし

この設定で速度を計算計算方法と根拠 CC BY 4.0

使用可能メモリー: 116GB
メモリ帯域: 273GB/s
LLM連続負荷の推定: 約 190W
韓国の参考価格（ウォン）: 952万ウォン〜1,030万ウォン

向いている人

32GBを超えるモデルを載せる
CUDA・ARM64でのサービング開発
複数GPUを使わず1台で運用

この場合は見送りましょう

必要なツールがx86専用で、ARM64で実行する方法がないなら、先にSparkを購入するのは避けてください。DGX OSで使うコンテナや拡張モジュールを確認する必要があります。2台もケーブルでつなぐだけではメモリが一体になるわけではなく、モデルを分割して実行する設定が必要です。

デバイス別推奨フォーマット · 4K入力

このデバイスで体感できるモデル

基本デコード・予想範囲

K2 Horizon 0.9B

必要 1.03GB · 余裕

llama.cpp · Q4_K_M

トークン生成

370.9 ~ 412.1 tok/s

最初のトークン

0.39 ~ 0.71秒

Qwen3.8-Flash-Next

どのタスクに適するか

大規模LLM

適合

モデルファイルと入力キャッシュを合わせたサイズで判断してください。パラメータ数だけで搭載可否は断定できず、収まることと回答速度も別の問題です。

サービス開発

適合

使うモデルがSpark向けランタイムとARM64パッケージで対応しているか、先に確認してください。デスクトップで使っていたコマンドをコピーするだけでは済まない場合があります。

画像生成

条件付き

大きなメモリが必要な作業と、一枚を速く作る作業を区別してください。同じモデル・解像度でGeForceと比較してから選ぶのがよいでしょう。

最も最初にブロックされるもの: 128GBはCPUとGPUが共有するメモリの総容量です。OSや入力キャッシュの領域も必要で、容量が大きくてもモデルを読む帯域幅までGeForceと同じになるわけではありません。単一リクエストの速度と、同時に処理するリクエスト数を分けて比較してください。
確認する構成: GB10・ユニファイドメモリ128GB・完成品1台・SSD容量と保証は販売構成ごとに確認
より多くのお金をかける基準: 27Bクラスのチャットを1つ動かすことが目的なら、まず既存のPCや単体GPUで確認してください。大きなメモリは必要でもCUDAが必須でなければ、Ryzen AI Max+ 395 128GBも比較対象です。Sparkを2台にするのは、1台では足りない容量や処理量を確認してから検討しましょう。

販売ページでは、チップよりもメモリをまず確認してください。

同じ製品名でも128GB構成でなければ、上記のモデルと速度の条件は変わります。

よくある質問

DGX Spark 128GBでどのようなローカルLLMを実行できますか？: K2 Horizon 0.9B, Qwen3.8-Flash-Next, DeepSeek-V4.1-Flashなどを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
DGX Spark 128GB のローカル LLM パワーアップはどのくらいですか？: 連続負荷では約190W、実際の範囲は160〜233Wと見ています。
表示されたトークン速度は実測値ですか？: 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。

32GBに収まるCUDA作業

RTX 5090 32GB

画像生成や27B〜35B級の推論を繰り返し、待ち時間を減らしたいときに比較するカードです。ただし32GBにも限りがあります。必要なモデル・入力・画像解像度が収まるかを確認せず、演算性能だけで買うと、再びオフロードが必要になることもあります。

Macで128GBが必要な場合

Studio M4 Max 128GB

単一の完成品で70B級から高精度モデルまで幅広く比較したい人に向いています。

CUDAが不要な128GB構成

Ryzen AI Max+ 395 128GB

大規模なユニファイドメモリを安価で確保でき、ランタイム設定を直接扱える際には魅力的です。