プリフィル・トークン生成速度

Mac mini M4 Pro 64GBでのQwen3.6 35B-A3B (MoE)速度:プリフィル・トークン生成

最終更新

273 GB/s
アクティブ 3B / 総35B
19.6 ~ 46.1 tok/sデコード速度
モデル全体のロード(21.28GB / 56GB)
最初のトークン (TTFT)
2.7 ~ 6.3秒コンテキスト 4,096トークンを含む
プリフィル速度
658 ~ 1,547 tok/s2.6 ~ 6.2秒 (実測に基づく補正)
全体消費時間(E2E)
約7.0 ~ 16.6秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
詳細条件を展開する 4-bit · 4K · 通常のデコード
量子化精度必要 21.28GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答

構成確認

Mac mini M4 Pro 64GB · メモリ 64GB

Qwen3.6 35B-A3B (MoE) Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。

すでに持っている方は実行設定へ

他のデバイスと並べてみましょうか?

同じモデルでプリフィルから比較したり、トークン生成速度だけを並べて確認できます。

文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較

代表的な条件

20件をすべて見る