Mac Studio M5 Ultra、SSDが速くなるとローカルAIも速くなる？

チャットアプリでモデルを選んでも、すぐ回答が出るわけではありません。保存されているモデルを使える状態にし、質問や添付文書を処理し、最後にトークン²を生成します。画面上ではどれも待ち時間ですが、コンピューターがしている仕事は異なります。

SSDの改善が最も直接効くのは最初の段階です。コーディング用、画像用、会話用とモデルを入れ替えるなら、一日に何度も通る区間です。一つのモデルを起動したまま使う人は、最初の待ち時間が減っても、その後の会話では違いをあまり感じないかもしれません。

Tom’s GuideのM5 Ultraレビューでは、4TB SSD構成でBlackmagicの読み込み13,902MB/s、書き込み14,283MB/sを記録しています。その構成のディスク測定値であり、すべての容量の保証値でも、LLM³の生成速度に掛けられる倍率でもありません。

仮に70GBを読むとします。一定の7GB/sなら転送に10秒、14GB/sなら5秒です。これは転送だけを切り出した説明用の計算で、モデル読み込みの実測ではありません。ファイル処理、メモリ確保、実行準備もあるので、アプリの待ち時間全体が半分になるとは限りません。

2回目にモデルを開くと速かったとしても、SSDだけの効果とは限りません。OSが直前に読んだファイルをメモリに残している場合があります。このファイルキャッシュと、入力の計算結果を再利用するプロンプトキャッシュは別物です。両方を一括して初回・2回目と扱うと、ディスクと推論の性能を取り違えます。

モデルがユニファイドメモリ⁴に収まり、スワップやオフロード⁵なしで動く場合、生成中の主なデータ移動先はSSDではなくメモリと演算装置です。書庫から本を素早く取り出せても、机に広げた後の読書速度まで書庫が決めるわけではありません。SSDの読み込み速度から、そのまま毎秒トークン数は計算できません。

送信後しばらく静かで、その後は回答が速く出るなら、まず入力の長さを見ましょう。長い文書や会話履歴のプリフィル⁶に時間がかかっているかもしれません。最初の回答はすぐ出るのに続きが遅いなら、モデルサイズ、量子化⁷、実行エンジン、デコード⁸の高速化設定を確認します。両方に同じSSD増強を勧めることはできません。

このサイトの速度体験もプリフィルとデコードを分けています。表示される待ち時間は、SSDからモデルファイルを最初に読み込む時間ではありません。実行準備が整ったモデルが、その入力長でどう応答するかの比較に使えます。

モデル全体がメモリに収まるとは限りません。対応モデルとエンジンでは、大きな参照テーブルをSSDに残し、必要な項目だけ読むPLE⁹オフロードを使えます。資料一式を毎回運ぶのではなく、必要な索引カードを取り出すような仕組みです。この場合は生成中もディスクを読むため、SSD性能が再び重要になります。

MacStoriesでは、80コアGPU¹⁰・256GBのM5 UltraでQwen3.8-Flash-Next oQ8eのPLEテーブルをSSDに置いて実行しています。oMLX 0.7.0.dev2、MTP¹¹深度3で文章生成の中央値は86.8 tok/s、回答中に観測したプロセスメモリは約187GBでした。重みだけの容量ではありません。実行例ではありますが、SSDだけを変えた比較実験ではありません。

MTPとPLEオフロードは役割が異なります。MTPは先のトークン候補を提案して生成の反復を減らし、PLEオフロードは一部データの保存場所を変えます。エンジンがその組み合わせに対応すれば併用できます。ただし全モデル共通の設定ではなく、通常のn-gram¹²投機的デコードと同じ機能でもありません。

大きなファイルを順番に読む速さと、小さな項目をあちこちから読む速さは異なります。読み終えた項目がOSのファイルキャッシュにどれだけ残るかも影響します。SSDのベンチマークが2倍でも、オフロード時のデコードを2倍とは見積もれません。

特定のモデル一つなら選択肢になり得ますが、すべてに使える置き換えの公式ではありません。選択的オフロードに対応しないモデルもあり、長い文脈のKVキャッシュ¹³や別のモデルもメモリを使います。ファイル容量と公称256GBだけを比べて、収まると判断することはできません。

OSのスワップも別に考える必要があります。エンジンが移すデータを選ぶPLEオフロードとは違い、メモリ不足で必要なデータを追い出しては読み直す状態になると、応答が途切れたり待ち時間が伸びたりします。速いSSDはその負担を軽くしても、メモリに余裕がある状態と同じにはなりません。

逆にモデルと文脈が十分収まっているなら、512GBに増やしても回答が自動的に2倍速くなるわけではありません。大容量メモリの価値は、より大きなモデル、長い文脈、複数モデルを使う余裕です。いつか試すかもしれない最大モデルより、毎日起動しておくモデルとアプリを先に書き出す方が判断しやすくなります。

毎日使うモデルでメモリがぎりぎりなら、先にメモリを確保します。安定して動かないまま読み込みだけ速くなっても、解決することは多くありません。モデル、KVキャッシュ、他のアプリの余裕を取り、その後によく使うモデルと作業ファイルのSSD容量を選ぶ順序が無難です。

メモリに余裕があり、複数の大きなモデルを切り替えるなら事情が変わります。切り替えのたびに読み込み時間がかかるので、高速ストレージの恩恵を何度も受けます。画像生成のチェックポイント¹⁴を頻繁に交換する場合も近い使い方です。ただし、大容量SSDほど必ず速いとは考えず、購入予定の容量の測定結果を確認しましょう。

たまに試すモデルをたくさん保存するなら、外付けSSDも選択肢です。日常的に使うファイルは内蔵に、それ以外は外部に置けます。ただし速度はドライブ、ケース、接続規格、ケーブル、発熱に左右されます。Thunderbolt 5という名前だけで、内蔵SSDと同じ速度とは計算できません。

普段使うモデルと質問を一つ決め、モデルを開く時間、回答が始まるまで、その後の生成速度を分けて見ます。アクティビティモニタではメモリプレッシャーとスワップも確認します。累積値だけでなく、その作業中に増えるか、応答の遅れと重なるかを見ましょう。

並べて比べるなら、モデルファイル、量子化、入力長、エンジンの版、MTP設定をそろえます。ファイルキャッシュとプロンプトキャッシュの状態も記録します。モデル交換が面倒なのか、長文処理が遅いのか、メモリが足りないのかが分かれば、変えるべき部分もはっきりします。

良い機材を買えば今のもどかしさがなくなる、と期待するのは自然です。大切なのは、そのもどかしさの原因です。同じモデルと長く会話する人はメモリと応答速度を、複数モデルを行き来する人は読み込み時間も重視します。同じM5 Ultraでも、合う構成は人によって変わります。

まず使いたいモデルを選び、プリフィルとデコードを体感してみましょう。その速度で十分で、メモリにも余裕があれば、SSDは保存容量と切り替えの便利さで決められます。大きな数字より、自分が待っている区間を短くする部分に予算を使う方が納得しやすい買い物になります。