プリフィル・トークン生成速度
RTX 3090でQwen3.8 27B、買い替えは必要？
RTX 3090 24GBを持っているなら、まずQwen3.8 27Bのこの応答ペースを確認しましょう。RTX 5090と同じモデルで比較し、メモリ不足と待ち時間を切り分けられます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
42.3 ~ 46.9 tok/sデコード速度
モデル全体のロード（17.56GB / 22.5GB)
最初のトークン (TTFT)
4.4 ~ 7.5秒コンテキスト 4,096トークンを含む
プリフィル速度
548 ~ 944 tok/s4.3 ~ 7.5秒 (公開ベンチマークに基づく推定)
全体消費時間（E2E）
約8.7 ~ 12.3秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
936 GB/s
27B
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問：
203 トークン回答結果を見るポイント
3090が遅いと感じたら、新しいGPUの価格を見る前にモデルファイルと設定を確認してください。CPUオフロードとGPU内に収まる実行を混ぜると、機器より設定の差が大きく見えることがあります。
- 必要メモリ / 使用可能
- 17.6GB / 22.5GB
- 実行経路
- llama.cpp CUDA · Q4_K_M
構成確認
RTX 3090 24GB · メモリ 24GB
Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる？入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較
代表的な条件