プリフィル・トークン生成速度
Mac Studio M4 Max 128GBでQwen3.8 27Bは十分?
Mac Studio M4 Max 128GBでQwen3.8 27Bのプリフィルと生成を確認。大容量メモリが必要なのか、このモデルなら小さい構成でも十分か比較できます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
27.9 ~ 60.4 tok/sデコード速度(基本: 同条件の基準値なし)
モデル全体のロード(17.86GB / 114GB)
最初のトークン (TTFT)
5.8 ~ 10.5 秒コンテキスト 4,096トークンを含む
プリフィル速度
393 ~ 707 tok/s5.8 ~ 10.4秒 (実測に基づく補正)
全体消費時間(E2E)
9.2 ~ 17.7 秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
546 GB/s
27B
詳細条件を展開する 詳細条件4-bit · 4K · MTPアクセラレーション(実験的)折りたたむ
量子化精度必要 17.86GB
入力文脈長4K トークン
MTPアクセラレーション(実験的)
基本
例質問:
203 トークン回答結果を見るポイント
使わないメモリの量に比例して応答が速くなるわけではありません。大型モデルや複数作業の予定と、今27Bモデルを一つ使う場合は分けて考えましょう。
- 必要メモリ / 使用可能
- 17.9GB / 114GB
- 実行経路
- oMLX 0.6.1 · native MTP k=3 · ANE prefill not enabled in this recipe
構成確認
Studio M4 Max 128GB · メモリ 128GB
Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Mac mini M4 32GBのQwen3.8 27B応答速度
5.1 ~ 5.7 tok/s · 16.4 ~ 35.5秒
Qwen3.8 27BにMac mini M4 Pro 48GBは必要?
12.3 ~ 13.7 tok/s · 7.8 ~ 14.3秒
MacBook Pro M5 Pro 64GBでQwen3.8 27Bを試す
14.7 ~ 17.1 tok/s · 8.6 ~ 10.0秒
RTX 3090でQwen3.8 27B、買い替えは必要?
42.3 ~ 46.9 tok/s · 4.4 ~ 7.5秒
