RTX 5090 32GB 24GBで収まらなかった作業が32GBに入るか、その違いから確認してください。
画像生成や27B〜35B級の推論を繰り返し、待ち時間を減らしたいときに比較するカードです。ただし32GBにも限りがあります。必要なモデル・入力・画像解像度が収まるかを確認せず、演算性能だけで買うと、再びオフロードが必要になることもあります。
同じモデルで速度とメモリを確認
ハードウェア Kernel specifications
- 使用可能メモリー
- 30.5GB
- メモリ帯域
- 1792GB/s
- LLM連続負荷の推定
- 約 620W
- 韓国の参考価格（ウォン）
- 899万ウォン〜929万ウォン
向いている人
- 27B～35B Q4を繰り返し実行
- 32GBに収まる画像・動画作業
- Blackwell対応を確認したツール
この場合は見送りましょう
現在使っているツールのBlackwell対応を確認できていないなら、先にカードを交換するのは避けてください。ドライバー、PyTorch、ランタイムの組み合わせが合う必要があります。メーカーの製品ごとに長さ・厚さ・電源要件も異なるため、既存のケースや電源で使えるかは別途確認してください。
デバイス別推奨フォーマット · 4K入力
このデバイスで体感できるモデル
K2 Horizon 0.9B
必要 1.03GB · 余裕
llama.cpp CUDA · Q4_K_M
トークン生成
2637.3 ~ 2907.8 tok/s
最初のトークン
0.12 ~ 0.18秒
Qwen3.6 35B-A3B (MoE)
おすすめ必要 21.28GB · 余裕
llama.cpp CUDA · Q4_K_M
トークン生成
111.5 ~ 280 tok/s
最初のトークン
0.47 ~ 0.73秒
Qwen3.8-Flash-Next
必要 82.5GB · スムーズ
Strata 0.1.41 · IQ3_S · MTP-6 · INT8 KV · SSD PLE
トークン生成
127.7 ~ 263.9 tok/s
最初のトークン
0.46 ~ 0.94 秒
実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。
購入判断
どのタスクに適するか
27B·35B チャット
適合まずQ4でモデルと入力キャッシュをGPUに載せた条件を比較してください。加速オプションは、対象のモデルとランタイムが対応している場合にだけ意味があります。
画像・動画
条件付き画像一枚と長い動画では、必要なメモリが違います。使うモデル・解像度・フレーム数を決めてから、32GB内で完了する設定かを確認してください。
24時間サーバー
条件付き待機中心のサーバーか、連続生成するサーバーかを分けて計算してください。負荷時の電力だけで月額料金を計算すると、実際の使い方を見落とします。
- 最も最初にブロックされるもの
- 32GBを超えるモデルとキャッシュをRAMへ移すと、作業の条件が変わります。動画生成もモデル名だけでは判断できません。解像度・フレーム数・オフロード設定をそろえて比較する必要があります。
- 確認する構成
- RTX 5090 32GBカード単体 · 比較条件はシステムRAM 64GB · 電源・端子・取り付けスペースはカードメーカーの要件を確認
- より多くのお金をかける基準
- 今の24GBカードで必要な作業が終わり、待ち時間にも不満がなければ、交換を急ぐ理由はありません。繰り返し作業で短縮できる時間と32GBが必要な理由がはっきりしてから、GPU以外の部品費も加えて判断してください。
販売ページでは、チップよりもメモリをまず確認してください。
同じ製品名でも32GB構成でなければ、上記のモデルと速度の条件は変わります。
よくある質問
- RTX 5090 32GBでどのようなローカルLLMを実行できますか？
- K2 Horizon 0.9B, Qwen3.6 35B-A3B (MoE), Qwen3.8-Flash-Nextなどを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
- ローカルLLMの電力消費は、RTX 5090 32GBでどのくらいになりますか？
- 連続負荷では約620W、実際の範囲は480〜760Wと見ています。
- 表示されたトークン速度は実測値ですか？
- 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。
比較されるデバイス
24GBで作業できるなら
RTX 4090 24GB
24GBを消費するLLMおよび画像生成を高速に処理しつつ、最新の最高価格モデルを避けたい場合の設備検討です。
32GBを超えるCUDAモデル
DGX Spark 128GB
大きなモデルを複数のグラフィックカードに分けず、1台で扱う用途です。128GBという容量を買う理由が必要です。今使うモデルが24GBや32GBに収まるなら、Sparkの大きなメモリだけを見て速いと期待しないでください。
CUDAを使わない完成品構成
Mac mini M4 Pro 48GB
27B級のモデルで文書を読ませ、コードを直す作業を繰り返すなら、容量だけでなく毎回の待ち時間も重要です。このページは20コアGPU・48GB構成を対象にしています。価格が低い16コアGPUの販売構成と区別して確認してください。