Mac miniは24GBと32GBのどちら？ローカルAIのために増やすべきか

Macのユニファイドメモリには、モデルの重みに加えて会話コンテキスト用のKVキャッシュや計算時の一時領域も必要です。OS、ブラウザー、文書編集ソフトも同じメモリを使うため、ダウンロード画面のファイルサイズだけでは残り容量を計算できません。

重み12GB、キャッシュと作業領域3GB、OSとアプリ6GBを使う例なら合計21GBです。同じ仮定で24GBは計算上3GB、32GBは11GB残ります。長い文書や追加質問にはこの余裕を使います。実際の必要量はモデルと普段のアプリ・入力で確認してください。

提案書の必要な段落だけをモデルに渡して表現を直し、待っている間も検索や編集を問題なく続けられるなら、24GBで解決すべきメモリ問題はないかもしれません。短い入力と普段のアプリの組み合わせで作業が完了するか確認します。

要約の金額や条件が違うなら、モデルに渡した原文を先に見ます。PDFの表や例外条項が入力に含まれるか確認し、正しい入力でも同じミスが続くときに大きなモデルや高精度を試します。その候補を決めてからメモリを計算します。

「8Bモデル」というパラメーター数だけでは、24GBで足りるか決められません。量子化³ファイル、実行ソフト、コンテキスト長もメモリに影響します。段落の編集が問題なく、長文全体を扱う予定がないなら、24GBを選ぶ余地があります。

提案書の冒頭の要件と後半の見積もりを一度に比べ、追加質問を続けると、入力と保持する会話状態が大きくなることがあります。モデル単体では問題ないのに、文書を入れると他のアプリを閉じる必要があるなら、同じ作業とアプリの組み合わせが32GBで円滑になるか確認します。それが追加メモリの実用上の価値です。

得たいのは8GBという数字そのものではなく、ブラウザーの再起動やモデルの再読み込みを減らせる余裕です。二つのモデルを切り替えるなら、同時にメモリへ保持する必要があるか確認し、重みだけでなく各モデルのKVキャッシュと実行領域も含めます。32GBという構成だけで二つのモデルを同時実行できるとは限りません。

必要な領域が32GBで使える容量も超えるなら、中間構成でも同じ制約が残る可能性があります。小さい量子化ファイルで必要な回答が得られるか、文書全体ではなく必要な範囲だけ渡せるかを先に確認します。メモリが足りていて回答生成だけが遅い場合、同じチップのメモリを増やしても計算性能やメモリ帯域が同じ割合で上がるわけではありません。

現在のMacで、普段のアプリを開いた状態、モデルを読み込んだ状態、提案書を渡して回答を生成する状態を順に記録します。文書の長さとモデルファイル名も残せば、別設定との比較基準になります。

アクティビティモニタのメモリタブで、プレッシャー・スワップ・アプリの反応を合わせて見ます。負荷が上がるたびに切り替えが止まる、モデルが再読込されるなら余裕が不足しています。使用量が高くても動きが滑らかなら作業を続けられます。文書の長さと同時利用アプリも記録してください。

モデル起動時にエラーが出る場合は、ランタイム⁴が要求した割り当て量とコンテキスト上限を確認します。物理メモリに空きが見えても特定の割り当てに失敗することがあるため、エラーメッセージと使用量グラフを別々に読み、設定を一つずつ変えて原因を絞ります。

今日24GBではなく32GBを選ぶ追加額と、後にメモリ不足で本体を買い替える費用は別です。将来の買い替えを見積もる際、既存機器の売却額は確定できないため、今支払う金額と不確実な回収額を分けて計算します。

現在の構成で提案書の段落編集や資料検索が快適なら、24GBを選んで予算を残せます。長い入力のたびにアプリを閉じる必要があり、同じ作業が32GBでは円滑だと確認できたなら、追加メモリは繰り返す不便を減らす費用です。どちらの構成でもモデルが厳しい場合、32GBだけで判断を終えられません。

購入前に、チップ、ユニファイドメモリ、SSD⁵容量が比較した構成と一致するか確認します。SSD容量の大きさをメモリ増量と取り違えたり、別チップの価格差をメモリ費用として計算したりしないようにします。漠然と将来に備えるのではなく、提案書を読み、修正して保存する現在の作業に合う構成を選びます。