2× NVIDIA GeForce RTX 5090 PCIe 64GB 2台のデバイスにモデルを分割して実行する構成 · メモリ総計64GB
2×32GB GDDR7 VRAM（合計64GB、合計ローカル帯域幅3,584GB/s）。RTX 5090はNVLinkをサポートせず、PCIe Gen5インターフェースのみで通信を行うため、All-Reduce通信のボトルネックによる並列効率の低下が発生する。
同じモデルで速度とメモリを確認
ハードウェア Kernel specifications
- 使用可能メモリー
- 61GB
- メモリ帯域
- 3584GB/s
- LLM連続負荷の推定
- 約 1100W
- 韓国の参考価格（ウォン）
- 1,798万ウォン〜1,858万ウォン
向いている人
- 61GBの可用メモリを活用する
- 分散推論ツール
- GLM-5.3-Flash (MoE)クラスモデル比較
この場合は見送りましょう
2台のデバイスを接続しても、メモリが自動で1台のように統合されません。分散ランタイムサポートおよびインターフェイスのボトルネックを確認する必要があります。
デバイス別推奨フォーマット · 4K入力
このデバイスで体感できるモデル
K2 Horizon 0.9B
必要 1.03GB · 余裕
llama.cpp CUDA · Q4_K_M · GPU2台分離
トークン生成
2637.3 ~ 4070.9 tok/s
最初のトークン
0.09 ~ 0.19秒
GLM-5.3-Flash (MoE)
おすすめ必要 190.21GB · スムーズ
llama.cpp CUDA · Q4_K_M · GPU2台分離
トークン生成
5.1 ~ 5.2 tok/s
最初のトークン
3.5 ~ 7.3秒
実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。
販売ページでは、チップよりもメモリをまず確認してください。
同じ製品名でも64GB構成でなければ、上記のモデルと速度の条件は変わります。
よくある質問
- 2× RTX 5090 64GB (PCIe)で利用可能なローカルLLMはどのようなものがありますか？
- K2 Horizon 0.9B, GLM-5.3-Flash (MoE)などを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
- 2× RTX 5090 64GB (PCIe)のローカルLLMの電力はどのくらいですか？
- 連続負荷では約1100W、実際の範囲は900〜1350Wと見ています。
- 表示されたトークン速度は実測値ですか？
- 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。
比較されるデバイス
似たメモリ
Mac mini M4 Pro 48GB
27B級のモデルで文書を読ませ、コードを直す作業を繰り返すなら、容量だけでなく毎回の待ち時間も重要です。このページは20コアGPU・48GB構成を対象にしています。価格が低い16コアGPUの販売構成と区別して確認してください。
似たメモリ
Mac mini M4 32GB
PCを新しく組まずに27B Q4を使いたいときに比較する構成です。24GBではメモリが足りなかったなら、容量を増やす意味があります。反対に、モデルとキャッシュがすでに収まっているなら、32GBを選ぶだけでチップ自体が速くなるわけではありません。
似たメモリ
Mac mini M6 32GB
Qwen 27BクラスのQ4を動かしながらブラウザや文書アプリも開くなら、32GBは比較候補です。M6 24GBと同じ170GB/sのメモリ帯域幅なので、8GBを追加する理由はモデル読み込み後の余裕にあります。2026年9月22日に発売され、現在の販売価格と構成で比較できます。