Q4 · 4K チャンク基準

Qwen3.8 27B総124.848460496B 중 토큰당 5.1B가 활성화되는 MoE 모델 · MXFP4 예상 메모리 약 71GB

総約124.85B・有効約5.1Bの画像・動画入力MoEモデルです。標準文脈は128Kです。DGX Sparkの公式INT4・MXFP4測定のみを速度基準に使い、他の機材には適用しません。

このモデルを実行する代表的な設備

利用可能 116GB · 273GB/s

SGLang · NVFP4 · DFlash2

トークン生成

42.8 ~ 50.3 tok/s

最初のトークン

6.7 ~ 13.3秒

実行ガイド

デバイスを選択すると、量子化、安全なコンテキスト、GPU オフロード、Flash Attention、KVキャッシュおよびバッチ開始値も一緒に変更されます。

予算、騒音、オペレーティングシステム、および中古許容の有無を基に、モデルが導入される構成をまず絞り込むことができます。