プリフィル・トークン生成速度
Mac mini M4 32GBのQwen3.8 27B応答速度
Mac mini M4 32GBでQwen3.8 27Bを実行する速度です。モデルが収まるかだけでなく、質問への応答や長い文章を待てるか、下の流れで確認できます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
5.1 ~ 5.7 tok/sデコード速度
モデル全体のロード(17.56GB / 27GB)
最初のトークン (TTFT)
16.4 ~ 35.5秒コンテキスト 4,096トークンを含む
プリフィル速度
116 ~ 252 tok/s16.3 ~ 35.3秒 (実測に基づく補正)
全体消費時間(E2E)
約51.9 ~ 75.1秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
120 GB/s
27B
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答結果を見るポイント
27Bモデルの搭載と高速な応答は別の問題です。入力処理後の文章生成が遅く感じるなら、メモリ容量だけでなくチップが異なるM4 Proと比較すると判断しやすくなります。
- 必要メモリ / 使用可能
- 17.6GB / 27GB
- 実行経路
- MLX 4ビット
構成確認
Mac mini M4 32GB · メモリ 32GB
Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Qwen3.8 27BにMac mini M4 Pro 48GBは必要?
12.3 ~ 13.7 tok/s · 7.8 ~ 14.3秒
MacBook Pro M5 Pro 64GBでQwen3.8 27Bを試す
14.7 ~ 17.1 tok/s · 8.6 ~ 10.0秒
Mac Studio M4 Max 128GBでQwen3.8 27Bは十分?
27.9 ~ 60.4 tok/s · 5.8 ~ 10.5 秒
RTX 3090でQwen3.8 27B、買い替えは必要?
42.3 ~ 46.9 tok/s · 4.4 ~ 7.5秒
