プリフィル・トークン生成速度

Qwen3.8 27BにMac mini M4 Pro 48GBは必要?

Qwen3.8 27B用にM4 Pro 48GBを買う際の速度を確認できます。プリフィルと生成を分けて、M4 32GBから上位構成にする理由が自分の作業にもあるか比べましょう。

ベンチマーク基準の推定 · 4K入力 · 単一ユーザー

最終更新

12.3 ~ 13.7 tok/sデコード速度
モデル全体のロード(17.56GB / 41GB)
最初のトークン (TTFT)
7.8 ~ 14.3秒コンテキスト 4,096トークンを含む
プリフィル速度
289 ~ 530 tok/s7.7 ~ 14.2秒 (実測に基づく補正)
全体消費時間(E2E)
約22.6 ~ 30.7秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
273 GB/s
27B
詳細条件を展開する 4-bit · 4K · 通常のデコード
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問:
203 トークン回答

結果を見るポイント

長いコードや文書を入力する作業では、最初の一文までの待ち時間も繰り返し発生します。生成開始後のtok/sだけでは見えない部分です。普段に近い入力長でも確認してください。

必要メモリ / 使用可能
17.6GB / 41GB
実行経路
MLX 4ビット

同じモデルで並べて比較

M4 32GBの速度で十分なら、上位構成を買う必要性は下がります。同じ応答の完了時間の差を見てから価格を比較しましょう。

構成確認

Mac mini M4 Pro 48GB · メモリ 48GB

Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。

文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較

代表的な条件

20件をすべて見る