購入とコスト
Mac miniは24GBと32GBのどちら？ローカルAIのために増やすべきか
購入直前まで迷うのがメモリです。今は24GBで足りそうでも、後で不足したらと考えてしまいます。ただ、不安だけで構成を上げ続けるわけにもいきません。32GBが必要になる場面と、24GBで止めてよい場面を分けて考えます。
モデルだけを動かすわけではありません
モデルを試すときは他のアプリを閉じがちですが、普段はブラウザや文書エディタも使います。統合メモリはモデル専用ではありません。ファイル容量と搭載容量だけを比べると、余裕を多く見積もってしまいます。普段のアプリを開き、実際の質問を繰り返してください。最初の回答が出たことより、その後もアプリを快適に切り替えられるかが購入判断につながります。
24GBで十分な使い方もあります
短文の推敲や小さなモデルとの会話が中心で、必要なときだけAIを使うなら、大型モデルを載せる能力が最優先とは限りません。自分の質問への答えが役立ち、他のアプリも快適なら、将来のあらゆるモデルに備える必要はありません。ただし、パラメータ数だけでは決められません。量子化ファイル、コンテキスト設定、実行ソフトでも条件は変わります。買う前に、実際に使いたい組み合わせを一つに絞って確認しましょう。
32GBの余裕が役立つ場面
短い質問は処理できても文書を追加すると不安定になる、AIを使うたびに他のアプリを閉じる。こうした場合は追加メモリの用途が明確です。毎日の片付けを減らす余裕には価値があります。一方、モデルが十分収まっているのに文字の生成だけが遅いなら、8GB追加しても解決するとは限りません。容量不足なのか、そのチップでの生成が遅いのかを分けましょう。前者はメモリ、後者はチップと実行設定を比べる問題です。
使用量だけでなくメモリプレッシャーを見る
アクティビティモニタで使用量が大きくても、それだけで構成が不適切とはいえません。macOSは空き領域をキャッシュにも使います。メモリプレッシャー、スワップ、アプリの反応を合わせて見てください。一時的なスワップだけで買い替える必要はありませんが、負荷が続いて待ち時間が増えるなら原因を調べます。同じ文書と同程度のブラウザ負荷で比較しましょう。まれな極端な処理より、毎週繰り返す作業を基準に選ぶ方が実用的です。
購入前に二つの費用を書き出す
メモリ追加の差額と、不足して本体を買い替える場合の費用を書き出します。ただし、買い替えが怖いからと無条件に上位構成を選ぶ必要はありません。用途もモデルも未定なら、まず手元のパソコンで小さなモデルを試しましょう。比較画面ではモデルと入力長を固定して構成を変えます。予測値で候補を絞り、最後に販売ページのチップ、統合メモリ、SSDが同じ構成か確かめてください。