画像・動画生成

FLUX.3 Kleinは8GBで動く?5090・5070・Sparkの生成時間

8GB対応はINT8生成経路の条件です。

BFLはINT8版FLUX.3 KleinをVRAM1 8GBのRTXで実行できると案内しています。プロンプト2アップサンプラーは別モデルで追加メモリを使います。公開GPU3生成時間と手元のワークフロー全体の時間は分けて比較します。

実行条件と要点
  • 8GB対応の記載はINT8経路が対象です。
  • BFLの約4秒・9秒未満は16ステップのGPU生成時間です。
  • アップサンプラーとAPI応答時間は別に考えます。

まず8GBで使う設定を固定する

FLUX.3 Image Kleinはテキストや参照画像から画像を作る5.6Bパラメータモデルです。BFLはINT8版がVRAM 8GB以上のGeForce RTXでComfyUIまたはDiffusersから実行できると案内しています。8GB PCではINT8 distilledチェックポイント4、1024×1024、batch 1から始めます。この数値をBF165や別の量子化6形式に当てはめません。BFLのモデル発表

ComfyUIのdistilledテンプレートは15ステップが初期値で、4~16ステップを指定できます。BFLのRTX比較は16ステップなので、テンプレートをそのまま実行した時間と比べるときはステップ数の違いを記載します。解像度、steps、batchを変えるたびにメモリと時間を記録します。

デュアルファンGPUが見えるPCの横のモニターに、青いピッチャーとレモンの小さな画像が表示されています。
GPUメモリでは本体モデルと追加で読み込むモデルを分けて考えます。

アップサンプラーが使う追加メモリを分けて考える

ComfyUIのテキストから画像テンプレートはenable_prompt_upsamplerで短い要求を詳しいシーン説明に広げられます。別のQwen3.5 9Bアップサンプラーを読み込む段階でVRAMエラーが出たら、この設定をオフにして対象・場所・構図・光をプロンプトに直接書きます。ComfyUIテンプレートガイド

公開されたGPU時間と全体の応答時間を分ける

BFL・NVIDIAのGPU生成比較はdistilled、16ステップ、1回に1枚の条件です。表では1024×1024と2048×2048のテキストから画像生成を分けて示します。ComfyUIテンプレートは15ステップが初期値なので同じ設定ではなく、API7 latencyは別の指標です。BFLの公表結果

BFL・NVIDIAによるFLUX.3 Klein distilledのテキストから画像生成時間
GPUと実行形式1024×10242048×2048
RTX PRO 6000 · INT8 · ComfyUI3.9秒12.1秒
RTX 5090 · INT8 · ComfyUI4.1秒15.0秒
DGX Spark · NVFP47.3秒43.9秒
RTX 5070 · INT8 · ComfyUI7.7秒44.4秒
RTX 4070 · INT8 · ComfyUI8.9秒50.4秒

手元で比較するときはモデルを読み込んだ後の初回生成と、それ以降の生成を分けて記録します。プロンプト、解像度、steps、batch、アップサンプラー設定も一緒に残し、条件の違う結果を混ぜないようにします。画像が生成されない場合は速度を比べる前に、VRAMエラーの段階とComfyUIログの最初のエラーを確認します。

同じ風景を異なる解像度とサイズで作った複数の画像
解像度を上げると生成する画像の画素数も増えます。

8GBで試す順番を決める

まずINT8 distilledモデルでbatch 1の画像を保存します。次にプロンプトアップサンプラーの有効・無効を比較し、必要であれば解像度を上げます。各試行でPNGの保存可否、生成時間、VRAMエラーが発生したノードを記録します。毎回ほかのアプリを終了する必要があるかも残すと、メモリの余裕を判断しやすくなります。

画像生成時間を比較する作業ノートとシーン案
同じステップ数と作業条件で生成時間を記録します。

用語の注釈

  1. VRAM — グラフィックカードのGPUが使うメモリです。モデルの重みや計算途中の値を保存します。

    本文に戻る
  2. プロンプト — モデルに送る入力文です。生成モデルでは作りたい結果を説明する文になり、出力の構成や内容を大きく左右します。

    本文に戻る
  3. GPU — 多くの計算を並列に処理するプロセッサーです。AIモデルの実行ではモデル計算を担います。

    本文に戻る
  4. チェックポイント — 学習済みモデルの重みなどを保存したファイルです。同じモデル系列でも、版や用途によって異なるチェックポイントを使うことがあります。

    本文に戻る
  5. BF16 — モデルの数値に使う16ビット浮動小数点形式です。指数部はFP32と同じ幅で、同程度に広い値の範囲を表せます。

    本文に戻る
  6. 量子化 — モデルの重みや計算値を少ないビット数で表し、保存容量やメモリ使用量を減らす方法です。表現が粗くなるため、精度にも影響することがあります。

    本文に戻る
  7. API — 別のコードからプログラムの機能を呼び出すための決められたインターフェースです。

    本文に戻る

よくある質問

この記事で最初に確認すべきことは何ですか?
BFLはINT8版FLUX.3 KleinをVRAM 8GBのRTXで実行できると案内しています。プロンプトアップサンプラーは別モデルで追加メモリを使います。公開GPU生成時間と手元のワークフロー全体の時間は分けて比較します。
必要なメモリはどのくらいですか?
FLUX.3 Image Kleinはテキストや参照画像から画像を作る5.6Bパラメータモデルです。BFLはINT8版がVRAM 8GB以上のGeForce RTXでComfyUIまたはDiffusersから実行できると案内しています。8GB PCではINT8 distilledチェックポイント、1024×1024、batch 1から始めます。この数値をBF16や別の量子化形式に当てはめません。[BFLのモデル発表](https://bfl.ai/blog/flux-3-image-klein)