両側同時体験 · 推奨実行設定

DGX Spark 2台対RTX 5090 2台によるローカルLLM比較

超大型モデルの搭載容量ならDGX Spark 2台、64GB内でのCUDA処理速度ならRTX 5090 2枚が有利です。

比較されるデバイスとモデル

比較範囲
比較条件を展開する

同じ 267トークンごとの回答の予想時間です。公開測定があるアクセラレーションのみが自動的に選択され、各結果ではデバイスごとの実行フォーマットが表示されます。

左側

開始前

2× DGX Spark 256GB

最初のトークン4.8 ~ 12.3秒
プリフィル334 ~ 865 tok/s
トークン生成18.5 ~ 29.6 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

4ビット・2ノード構成0.0秒 · 0/267

右側

開始前

2× RTX 5090 64GB (PCIe)

最初のトークン3.5 ~ 7.3秒
プリフィル576 ~ 1,244 tok/s
トークン生成5.1 ~ 5.2 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

llama.cpp CUDA · Q4_K_M · GPU2台分離0.0秒 · 0/267

この条件下では 2× DGX Spark 256GBが 全体の回答を 約 2.8まず、バッチをマジます。

入力処理から267トークン回答完了までを比較します。

自分に合うのはどちら?

回答完了

2× DGX Spark 256GB

推定の中央値では、同じ回答を約2.8倍の速さで完了します。

入力処理

2× RTX 5090 64GB (PCIe)

入力処理速度の推定中央値は910 tok/sで、こちらが上回ります。

画像・動画生成

生成モデル別に確認

LLMの速度だけでは判断できません。画像・動画のモデルと解像度を別途選んでください。

実行環境

機器別の設定

4ビット・2ノード構成 / llama.cpp CUDA · Q4_K_M · GPU2台分離。実行環境が異なる場合、速度差にはソフトウェアやモデル形式の違いも含まれます。

推定消費電力

2× DGX Spark 256GB

LLM使用中の推定消費電力は約380Wで、こちらが低くなります。騒音と本体サイズは別途確認が必要です。

価格差の判断

2× DGX Spark 256GBは完成品PC、2× RTX 5090 64GB (PCIe)はGPU 2台の価格です。GPU単品については本体費用を加えた上で比較すべきです。

購入前に確認しておきたい項目

比較基準2× DGX Spark 256GB2× RTX 5090 64GB (PCIe)
利用可能な高速メモリ232GB61GB
メモリ帯域546GB/s3584GB/s
全体完了の予想20秒57秒
LLM連続負荷の推定約380W約1100W
韓国の参考価格(ウォン)1,904〜2,060万ウォン1,798〜1,858万ウォン
2× DGX Spark 256GB 詳細表示
2× RTX 5090 64GB (PCIe) 詳細表示

表示値は単一ユーザーの想定範囲です。マルチGPU・マルチデバイス構成では、ランタイムおよびインターフェイスによって実際の結果が異なる可能性があります。