プリフィル・トークン生成速度
Studio M4 Max 128GBでのQwen3.6 35B-A3B (MoE)速度:プリフィル・トークン生成
最終更新
546 GB/s
アクティブ 3B / 総35B
39.2 ~ 81.9 tok/sデコード速度
モデル全体のロード(21.28GB / 114GB)
最初のトークン (TTFT)
1.5 ~ 3.1秒コンテキスト 4,096トークンを含む
プリフィル速度
1,316 ~ 2,751 tok/s1.5 ~ 3.1秒 (実測に基づく補正)
全体消費時間(E2E)
約4.0 ~ 8.3秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
今必要なもの
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 21.28GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答構成確認
Studio M4 Max 128GB · メモリ 128GB
Qwen3.6 35B-A3B (MoE) Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
すでに持っている方は実行設定へ他のデバイスと並べてみましょうか?
同じモデルでプリフィルから比較したり、トークン生成速度だけを並べて確認できます。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Mac mini M4 Pro 64GB × Qwen3.6 35B-A3B (MoE)
19.6 ~ 46.1 tok/s · 2.7 ~ 6.3秒
DGX Spark 128GB × Qwen3.6 35B-A3B (MoE)
61.2 ~ 111.1 tok/s · 1.5 ~ 3.1 秒
2× RTX 3090 48GB (NVLink) × Qwen3.6 35B-A3B (MoE)
79.2 ~ 248.6 tok/s · 0.63 ~ 1.4秒
Mac Studio M4 Max 128GBでQwen3.8 27Bは十分?
27.9 ~ 60.4 tok/s · 5.8 ~ 10.5 秒
