速度重視 · 公式販売製品 · 2026-09-06 更新

ローカル生成タスクが32GBに収まるのは、最も速い軸に属します。

RTX 5090 32GB でのローカルLLM・画像・動画生成パフォーマンス

単一GPUの生成速度および32GB VRAMを優先し、高い電力消費と構築コストを負担する場合に適しています。

主要仕様

グラフィックスカードだけの価格を見てはいけず、高容量のパワーアダプター、冷却装置、および本体のコストを含める必要があります。

32GBを超過する大型モデルでは、最高演算性能を十分に活用できず、オフロードが不可欠です。

画像・動画および35Bクラスの速度では、収益または作業時間の削減に適しています。単に会話だけを行う場合では過剰投資になります。

モデル	必要なメモリ	トークン生成	最初のトークン	プリフィル
Gemma 4 12B llama.cpp CUDA · Q4_K_M	8GB	198 ~ 218.3 tok/s	1.2 ~ 1.4秒	3,014 ~ 3,399 tok/s
Qwen3.6 35B-A3B (MoE) llama.cpp CUDA · Q4_K_M	21.28GB	111.5 ~ 280 tok/s	0.55 ~ 0.62秒	6,712 ~ 7,569 tok/s
Qwen3.8-Flash-Next llama.cpp CUDA · Q4_K_M	77.01GB	12.7 ~ 14 tok/s	1.9 ~ 5.8秒	710 ~ 2,183 tok/s (NVMe クール～ウォーム)

単一ユーザーでの予想範囲であり、ランタイムや冷却、量子化ファイルによって異なる可能性があります。

Gemma 4 12B、Qwen3.6 35B-A3B（MoE）、Qwen3.8-Flash-Nextなどは、4K入力とデバイス別推奨フォーマットで比較可能です。モデルやコンテキスト長によって必要なメモリは異なります。

継続的な負荷基準では約620Wで、実際の範囲は480–760Wと予想されます。

公式ハードウェア仕様および検証済みベンチマーキング範囲に基づき、計算機に合わせて補正した予想範囲です。ランタイム、冷却、量子化ファイルおよび文脈長によって変化する可能性があります。

24GB サイズの価格性能： RTX 4090 24GB — 24GBに収まるLLMおよび画像生成を高速に処理しつつ、新規最高価格を避けたい場合の設備検討です。
大規模モデル: DGX Spark 128GB — 大容量ユニファイドメモリとNVIDIA開発環境が必要で、単一GPUの最高速度よりもモデルのロードを優先する場合に適します。
低消費電力の完成品： Mac mini M4 Pro 48GB — 27B〜35Bクラスのモデルを無理なく搭載しつつ、価格と速度を両立できる構成です。