プリフィル・トークン生成速度
MacBook Pro M5 Pro 64GBでQwen3.8 27Bを試す
別のサーバーを使わずMacBook Pro M5 Pro 64GBでQwen3.8 27Bを動かす速度です。入力を読む時間と応答生成を確認し、デスクトップGPU構成と比較できます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
14.7 ~ 17.1 tok/sデコード速度
モデル全体のロード（17.56GB / 56GB)
最初のトークン (TTFT)
8.6 ~ 10.0秒コンテキスト 4,096トークンを含む
プリフィル速度
412 ~ 479 tok/s8.6 ~ 9.9秒 (ユーザー提出記録に基づく推定)
全体消費時間（E2E）
約20.4 ~ 23.8秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
307 GB/s
27B
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 17.56GB
入力文脈長4K トークン
基本
基本
例質問：
203 トークン回答結果を見るポイント
ノートPCには携帯性や一台で完結する利点もあります。速度表だけでその価値は決まりません。この応答ペースで作業できるか確認してから、別の機器が必要か判断しましょう。
- 必要メモリ / 使用可能
- 17.6GB / 56GB
- 実行経路
- MLX 4ビット
構成確認
MBP M5 Pro 64GB · メモリ 64GB
Qwen3.8 27B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる？入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 61ハードウェア比較
代表的な条件