Mac Studio M5 Ultra 256GB 大規模モデルを収めるだけでなく、長い入力を読む待ち時間も大幅に短縮しました。
Flash-Next 4ビットとMTPを併用した公開計測では、4K入力は約2,600〜2,900 tok/sで処理し、512トークンの回答は約90〜112 tok/sの範囲でした。256K入力でもプリフィルは2,500 tok/s前後を維持しました。大きな統合メモリだけでなく、長いプロンプトでの最初の応答待ちが短くなった点がM3 Ultraとの最も大きな違いです。
同じモデルで速度とメモリを確認
ハードウェア Kernel specifications
- 使用可能メモリー
- 236GB
- メモリ帯域
- 1200GB/s
- LLM連続負荷の推定
- 約 300W
- 韓国の参考価格（ウォン）
- 1,850万ウォン〜2,000万ウォン
向いている人
- 長いコンテキストを使うローカルエージェント
- Flash-Next 4・5ビットの常時サービング
- 複数リクエストを1台で並列処理
この場合は見送りましょう
32GBに収まるモデルの短いリクエストでは、RTX 5090の方が速い場合があります。CUDA専用ツールもそのままは使えません。256GBの実測環境では、Flash-Nextの6・8ビットはPLE埋め込みテーブルをSSDに置く必要があったため、高精度モデル全体をメモリに載せたい場合は512GB構成を待つ必要があります。
デバイス別推奨フォーマット · 4K入力
このデバイスで体感できるモデル
K2 Horizon 0.9B
必要 1.03GB · 余裕
MLX 4ビット
トークン生成
1630.2 ~ 1811.3 tok/s
最初のトークン
0.30 ~ 0.55秒
Qwen3.8-Flash-Next
おすすめ必要 155GB · 余裕
oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on
トークン生成
115.0 ~ 172.6 tok/s
最初のトークン
0.70 ~ 1.0 秒
GLM-5.3-Flash (MoE)
必要 190.51GB · 適正
oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on
トークン生成
51.2 ~ 76.8 tok/s
最初のトークン
1.5 ~ 2.3 秒
実際の速度はランタイムのバージョン、冷却状態、コンテキスト長、量子化ファイルによって変わります。
購入判断
どのタスクに適するか
ローカルエージェント
快適4ビットFlash-Nextは16K入力を約2,700〜3,050 tok/sで読み、MTP使用時に84〜108 tok/sで回答を生成しました。
長い文書・コードベース
適合Flash-Nextは256K入力でも約2,500 tok/sのプリフィルを維持しました。モデルごとの最大コンテキストと実際のキャッシュメモリは別に確認してください。
高精度・複数モデルの常駐
条件付き4・5ビットはRAMに収まりましたが、6・8ビットは256GBでPLE SSDオフロードが必要でした。この用途では512GB構成と比較してください。
- 最も最初にブロックされるもの
- 単一リクエストの生成速度は主にメモリ帯域幅、最初のトークンまでの時間はGPU演算とプロンプト長の影響を受けます。3件を同時実行すると合計処理量は増えますが、各リクエストは遅くなります。
- 確認する構成
- M5 Ultra・36コアCPU・80コアGPU・256GBユニファイドメモリ・モデル保存用SSDは2TB以上を推奨
- より多くのお金をかける基準
- 公開記録では、Flash-Next oQ4eは実行中に約155GB、oQ5eは約179GBを使用しており、256GB内で運用できます。oQ6e・oQ8eまでRAMに収める、または複数の大規模モデルを同時常駐させる予定がなければ、512GBの追加費用より先に256GBの実際の待ち時間と同時処理量を確認する方が合理的です。
販売ページでは、チップよりもメモリをまず確認してください。
同じ製品名でも256GB構成でなければ、上記のモデルと速度の条件は変わります。
よくある質問
- Studio M5 Ultra 256GBで利用可能なローカルLLMはどのようなものがありますか？
- K2 Horizon 0.9B, Qwen3.8-Flash-Next, GLM-5.3-Flash (MoE)などを4K入力と推奨フォーマットで比較できます。必要なメモリはモデルとコンテキスト長によって変わります。
- Studio M5 Ultra 256GBのローカルLLMの電力はどのくらいですか？
- 連続負荷では約300W、実際の範囲は220〜430Wと見ています。
- 表示されたトークン速度は実測値ですか？
- 収集したベンチマーク実測を同じ条件にそろえた範囲です。同じ条件の実測がない組み合わせは近い実測値を基準に推定し、ランタイム・冷却・量子化ファイル・コンテキスト長で変わります。
比較されるデバイス
高精度モデルをRAMに載せる場合
Studio M5 Ultra 512GB
256GBの実測ではFlash-Nextの4・5ビットはRAMに収まりましたが、6・8ビットはPLE埋め込みテーブルをSSDに下ろす必要がありました。512GBの価値は同じチップを速くすることではなく、この高精度の重みと大きなキャッシュをメモリに残しておける点にあります。6・8ビットを常時使う場合や複数のモデルを同時に載せるなら、1,955万ウォンの差を計算してみる価値があります。
128GBで足りる作業
Studio M4 Max 128GB
単一の完成品で70B級から高精度モデルまで幅広く比較したい人に向いています。
小規模モデルの最高速度
RTX 5090 32GB
画像生成や27B〜35B級の推論を繰り返し、待ち時間を減らしたいときに比較するカードです。ただし32GBにも限りがあります。必要なモデル・入力・画像解像度が収まるかを確認せず、演算性能だけで買うと、再びオフロードが必要になることもあります。