両側同時体験 · 推奨実行設定

RTX 3090 vs RTX 5080、ローカルAIで24GBを減らしてもよい?

3090から5080へ替えるとVRAMは24GBから16GBへ減ります。先にモデルが新カードに収まるかを確認し、動く組み合わせで速度と電力を比べましょう。

比較されるデバイスとモデル

比較範囲
比較条件を展開する

同じ 203トークンごとの回答の予想時間です。公開測定があるアクセラレーションのみが自動的に選択され、各結果ではデバイスごとの実行フォーマットが表示されます。

左側

開始前

RTX 3090 24GB

最初のトークン1.5 ~ 2.9 秒
プリフィル1423.9 ~ 2764.1 tok/s
トークン生成61.5 ~ 119.4 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

Strata 0.1.28 · IQ3_S · MTP · SSD PLE0.0秒 · 0/203

右側

開始前

RTX 5080 16GB

最初のトークン1.4 ~ 3.1 秒
プリフィル1310.1 ~ 2985.3 tok/s
トークン生成58.7 ~ 133.8 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

Strata · Blackwell (CC 12.0) · CUDA · MTP · NVMe PLE · single GPU0.0秒 · 0/203

この条件下では RTX 5080 16GBが 全体の回答を 約 1.0まず、バッチをマジます。

入力処理から203トークン回答完了までを比較します。

自分に合うのはどちら?

回答完了

RTX 5080 16GB

推定の中央値では、同じ回答を約1.0倍の速さで完了します。

入力処理

RTX 5080 16GB

入力処理速度の推定中央値は2,148 tok/sで、こちらが上回ります。

画像・動画生成

生成モデル別に確認

LLMの速度だけでは判断できません。画像・動画のモデルと解像度を別途選んでください。

実行環境

機器別の設定

Strata 0.1.28 · IQ3_S · MTP · SSD PLE / Strata · Blackwell (CC 12.0) · CUDA · MTP · NVMe PLE · single GPU。実行環境が異なる場合、速度差にはソフトウェアやモデル形式の違いも含まれます。

推定消費電力

RTX 5080 16GB

LLM使用中の推定消費電力は約352Wで、こちらが低くなります。騒音と本体サイズは別途確認が必要です。

価格差の判断

参考価格の中央値の差は約4万ウォンです。販売構成と保証条件も確認してください。

購入前に確認しておきたい項目

比較基準RTX 3090 24GBRTX 5080 16GB
利用可能な高速メモリ22.5GB15GB
メモリ帯域936GB/s960GB/s
全体完了の予想4.2秒4.0秒
LLM連続負荷の推定約420W約352W
韓国の参考価格(ウォン)239〜239万ウォン231〜239万ウォン
RTX 3090 24GB 詳細表示
RTX 5080 16GB 詳細表示

表示値は単一ユーザーの想定範囲です。マルチGPU・マルチデバイス構成では、ランタイムおよびインターフェイスによって実際の結果が異なる可能性があります。

今のファイルをそのまま載せられる?

3090で使える27Bの量子化ファイルでも、5080では会話用の余裕が足りない場合があります。交換前に同じモデルと入力で搭載状態を比べましょう。小さい量子化へ変えるなら普段の質問の回答品質も確認します。容量が減っても同じ作業ができることが最初の基準です。

新エンジンと今のカード設定を確認する

5080の推奨設定を3090へそのまま使わず、カードに合う経路を選びます。3090のエンジン更新だけで待ち時間を減らせるかも先に確認しましょう。モデルを変えると両側のランタイムと搭載方法も変わるため、ファイル選択の参考になります。

24GBが必要なら維持・追加・交換を比べる

16GBで頻繁に不足するなら、3090の維持やGPU追加も選択肢です。モデル分割にはエンジンの対応とスロット・電源・冷却が必要です。1枚での交換なら32GBの5090とも比較しましょう。従来の作業を保ちながら速度を上げる経路を探せます。