2026.10 更新

NVIDIA GeForce RTX 5070 12GB 12GB GPUメモリ・本体費用は別途

VRAMは12GB、メモリ帯域幅は672GB/sです。計算上のシステムRAM基準は64GB・90GB/sで、実際のオフロード速度はPC構成によって異なります。

同じモデルで速度とメモリを確認

RTX 5070 12GB · Qwen3.8 27B · ローカルLLM速度・メモリ: 入力処理 · プリフィル 493–902 tok/s · トークン生成 · デコード 5.1–5.2 tok/s; 必要 17.56GB / 使用可能 11GB VRAM
入力4,096トークン · 単一リクエスト · キャッシュなし

ハードウェア Kernel specifications

使用可能メモリー
11GB
メモリ帯域
672GB/s
LLM連続負荷の推定
約 275W
韓国の参考価格(ウォン)
116万ウォン〜129万ウォン

向いている人

  • 11GB 可用メモリの活用
  • CUDAベースのローカル推論
  • K2 Horizon MoVA 36B-A4Bクラスの高速生成

この場合は見送りましょう

価格はGPU単体、電気料金はGPUを含むPC全体の推定消費電力に基づきます。購入予算にはホストPC・電源・冷却の費用を別途加えてください。

デバイス別推奨フォーマット · 4K入力

このデバイスで体感できるモデル

K2 Horizon 0.9B

必要 1.03GB · 余裕

llama.cpp CUDA · Q4_K_M

トークン生成

912.9 ~ 1039.7 tok/s

最初のトークン

0.20 ~ 0.38秒

K2 Horizon MoVA 36B-A4B

おすすめ

必要 21.94GB · スムーズ

llama.cpp CUDA · Q4_K_M

トークン生成

21.3 ~ 21.4 tok/s

最初のトークン

1.4 ~ 2.6秒

Qwen3.8-Flash-Next

必要 47GB · スムーズ

Strata 0.1.36 (#136) · Q2_0 · fused int8 tensor-core prompt experts · RTX 50 thread-block-cluster decode · greedy argmax

トークン生成

74.8 ~ 112.2 tok/s

最初のトークン

2.2 ~ 3.3 秒

速度チューニング

実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。

販売ページでは、チップよりもメモリをまず確認してください。

同じ製品名でも12GB構成でなければ、上記のモデルと速度の条件は変わります。

よくある質問

RTX 5070 12GBで利用可能なローカルLLMはどのようなものがありますか?
K2 Horizon 0.9B, K2 Horizon MoVA 36B-A4B, Qwen3.8-Flash-Nextなどを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
RTX 5070 12GBのローカルLLMの電力はどのくらいですか?
連続負荷では約275W、実際の範囲は183〜380Wと見ています。
表示されたトークン速度は実測値ですか?
収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。