Mac mini M5 Pro 24GBで利用可能なローカルLLMはどのようなものがありますか？

K2 Horizon 0.9B, K2 Horizon MoVA 36B-A4Bなどを4K入力とハードウェア別の推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。

Mac mini M5 Pro 24GBのローカルLLMの電力消費はどのくらいですか？

継続的な負荷基準では約92Wで、実際の範囲は62–128Wと予想されます。

収集した実測ベンチマークを同じ条件にそろえた範囲です。同条件の実測がない組み合わせだけを近い実測値から推定します。結果はランタイム、冷却、モデルファイル、コンテキスト長で変わることがあります。

2026.10 更新

高い帯域幅を優先するM5 Proの基本メモリ構成です。12Bクラスを高速に動かすための現行販売モデルです。

向いている人

この場合は見送りましょう

オペレーティングシステムおよびKVキャッシュまで同じメモリを共有しているため、長いコンテキストや20B以上のモデルでは余裕が迅速に減少します。

デバイス別推奨フォーマット · 4K入力

基本デコード・予想範囲

K2 Horizon 0.9B

必要 1.03GB · 余裕

MLX 4ビット

トークン生成

417.1 ~ 463.4 tok/s

最初のトークン

0.62 ~ 1.3秒

K2 Horizon MoVA 36B-A4B

同じ製品名でも24GB構成でなければ、上記のモデルと速度の条件は変わります。

Mac mini M5 Pro 24GBで利用可能なローカルLLMはどのようなものがありますか？: K2 Horizon 0.9B, K2 Horizon MoVA 36B-A4Bなどを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
Mac mini M5 Pro 24GBのローカルLLMの電力消費はどのくらいですか？: 連続負荷では約92W、実際の範囲は62〜128Wと見ています。
表示されたトークン速度は実測値ですか？: 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。

似たメモリ

Mac mini M4 24GB

短い文書の要約やコードの一部分について質問するなら、大きなモデルを選ぶ前に、使う予定のモデルの回答で足りるかを見てください。12B級のQ4が目的に合うなら、32GBを検討するのは、作業にもう少しメモリの余裕が必要な場合です。

似たメモリ

RTX 3090 24GB

所有中なら目的のモデルと文脈が24GBに収まるかを先に確認します。必要な作業が終わるなら、新型登場だけで交換する必要はありません。中古購入では電源・冷却・ケース・返品条件も含めて比較します。

似たメモリ

RTX 4090 24GB

24GBを消費するLLMおよび画像生成を高速に処理しつつ、最新の最高価格モデルを避けたい場合の設備検討です。