プリフィル・トークン生成速度

Mac mini M4 32GBのQwen3.8 27B応答速度

Mac mini M4 32GBでQwen3.8 27Bを実行する速度です。モデルが収まるかだけでなく、質問への応答や長い文章を待てるか、下の流れで確認できます。

ベンチマーク基準の推定 · 4K入力 · 単一ユーザー

最終更新

5.1 ~ 5.7 tok/sデコード速度
モデル全体のロード(17.56GB / 27GB)
最初のトークン (TTFT)
16.4 ~ 35.5秒コンテキスト 4,096トークンを含む
プリフィル速度
116 ~ 252 tok/s16.3 ~ 35.3秒 (実測に基づく補正)
全体消費時間(E2E)
約51.9 ~ 75.1秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
120 GB/s
27B
詳細条件を展開する 4-bit · 4K · 通常のデコード
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答

結果を見るポイント

27Bモデルの搭載と高速な応答は別の問題です。入力処理後の文章生成が遅く感じるなら、メモリ容量だけでなくチップが異なるM4 Proと比較すると判断しやすくなります。

必要メモリ / 使用可能
17.6GB / 27GB
実行経路
MLX 4ビット

同じモデルで並べて比較

M4 Pro 48GBと同じモデルを並べて再生できます。文書入力が多いならプリフィル込み、短い会話が中心なら生成速度から比較してください。

構成確認

Mac mini M4 32GB · メモリ 32GB

Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。

文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較

代表的な条件

20件をすべて見る