2026.10 更新

NVIDIA RTX PRO 6000 Blackwell 96GB GPUメモリ 96GB · 基本費用は別途です

1,792GB/s 96GB ECC VRAMワークステーションGPU。利用可能な93GB VRAM予算内での70B〜120Bクラスの4ビットモデルを単一カードに完全に収める。

同じモデルで速度とメモリを確認

RTX PRO 6000 96GB · Qwen3.8 27B · ローカルLLM速度・メモリ: 入力処理 · プリフィル 1,164–2,086 tok/s · トークン生成 · デコード 120.8–245.2 tok/s; 必要 28.29GB / 使用可能 93GB VRAM
入力4,096トークン · 単一リクエスト · キャッシュなし

ハードウェア Kernel specifications

使用可能メモリー
93GB
メモリ帯域
1792GB/s
LLM連続負荷の推定
約 650W
韓国の参考価格(ウォン)
2,550万ウォン〜2,647万ウォン

向いている人

  • 93GBの利用可能なメモリを活用する
  • CUDAベースのローカル推論
  • GLM-5.3-Flash (MoE)クラスの高速生成

この場合は見送りましょう

価格はGPU単体、電気料金はGPUを含むPC全体の推定消費電力に基づきます。購入予算にはホストPC・電源・冷却の費用を別途加えてください。

デバイス別推奨フォーマット · 4K入力

このデバイスで体感できるモデル

K2 Horizon 0.9B

必要 1.03GB · 余裕

llama.cpp CUDA · Q4_K_M

トークン生成

2637.3 ~ 2907.8 tok/s

最初のトークン

0.11 ~ 0.19秒

GLM-5.3-Flash (MoE)

おすすめ

必要 190.21GB · スムーズ

llama.cpp CUDA · Q4_K_M

トークン生成

6.6 ~ 6.6 tok/s

最初のトークン

3.7 ~ 6.0秒

速度チューニング

実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。

販売ページでは、チップよりもメモリをまず確認してください。

同じ製品名でも96GB構成でなければ、上記のモデルと速度の条件は変わります。

よくある質問

RTX PRO 6000 96GBで実行可能なローカルLLMはどのようなものがありますか?
K2 Horizon 0.9B, GLM-5.3-Flash (MoE)などを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
RTX PRO 6000 96GBのローカルLLMの電力消費はどのくらいですか?
連続負荷では約650W、実際の範囲は520〜780Wと見ています。
表示されたトークン速度は実測値ですか?
収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。