プリフィル・トークン生成速度
Mac mini M4 24GBでGemma 4 12Bの会話速度は？
Mac mini M4 24GBでGemma 4 12Bを動かす条件です。応答開始までの待ち時間と文章の進む速さから、文書要約や短い会話に十分か確認できます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
11.6 ~ 12.9 tok/sデコード速度
モデル全体のロード（8GB / 20GB)
最初のトークン (TTFT)
12.8 ~ 31.1秒コンテキスト 4,096トークンを含む
プリフィル速度
132 ~ 323 tok/s12.7 ~ 31.0秒 (公開ベンチマークに基づく推定)
全体消費時間（E2E）
約28.6 ~ 48.8秒206トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
120 GB/s
11.95B
詳細条件を展開する 詳細条件4-bit · 4K · 通常のデコード折りたたむ
量子化精度必要 8GB
入力文脈長4K トークン
基本
基本
例質問：
206 トークン回答結果を見るポイント
24GBすべてをモデルに使えるわけではありません。OSや他のアプリを除いた使用可能メモリと必要量を比べてください。文書が長くなると待ち時間やメモリ条件も変わります。
- 必要メモリ / 使用可能
- 8.0GB / 20GB
- 実行経路
- MLX 4ビット
構成確認
Mac mini M4 24GB · メモリ 24GB
Gemma 4 12B Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる？入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較
代表的な条件