両側同時体験 · 推奨実行設定

M3 Ultra vs M5 Ultra 512GB、ローカルLLMのために交換する?

どちらも512GB構成なので、交換目的は同じモデルの高速化です。M3 Ultraのエンジンを先に最新設定へ合わせ、M5 Ultraで減る待ち時間を比較しましょう。

比較されるデバイスとモデル

比較範囲
比較条件を展開する

同じ 267トークンごとの回答の予想時間です。公開測定があるアクセラレーションのみが自動的に選択され、各結果ではデバイスごとの実行フォーマットが表示されます。

左側

開始前

Studio M3 Ultra 512GB

最初のトークン19.3 ~ 26.1秒
プリフィル157 ~ 212 tok/s
トークン生成55.5 ~ 61.6 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

MLX 4ビット0.0秒 · 0/267

右側

開始前

Studio M5 Ultra 512GB

最初のトークン1.4 ~ 2.5 秒
プリフィル1634.4 ~ 2905.6 tok/s
トークン生成46.1 ~ 81.9 tok/s

開始ボタンを押すと、双方のデバイスが同時に同じ回答を生成します。

oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on0.0秒 · 0/267

この条件下では Studio M5 Ultra 512GBが 全体の回答を 約 4.6まず、バッチをマジます。

入力処理から267トークン回答完了までを比較します。

自分に合うのはどちら?

回答完了

Studio M5 Ultra 512GB

推定の中央値では、同じ回答を約4.6倍の速さで完了します。

入力処理

Studio M5 Ultra 512GB

入力処理速度の推定中央値は2,270 tok/sで、こちらが上回ります。

画像・動画生成

生成モデル別に確認

LLMの速度だけでは判断できません。画像・動画のモデルと解像度を別途選んでください。

実行環境

機器別の設定

MLX 4ビット / oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on。実行環境が異なる場合、速度差にはソフトウェアやモデル形式の違いも含まれます。

推定消費電力

Studio M3 Ultra 512GB

LLM使用中の推定消費電力は約230Wで、こちらが低くなります。騒音と本体サイズは別途確認が必要です。

価格差の判断

Studio M5 Ultra 512GBの参考価格は中央値で約1,348万ウォン高く、推定回答時間は約78%短くなります。

購入前に確認しておきたい項目

比較基準Studio M3 Ultra 512GBStudio M5 Ultra 512GB
利用可能な高速メモリ480GB480GB
メモリ帯域819GB/s1200GB/s
全体完了の予想27秒6.0秒
LLM連続負荷の推定約230W約330W
韓国の参考価格(ウォン)2,400–2,600万ウォン3,805〜3,890万ウォン
Studio M3 Ultra 512GB 詳細表示
Studio M5 Ultra 512GB 詳細表示

表示値は単一ユーザーの想定範囲です。マルチGPU・マルチデバイス構成では、ランタイムおよびインターフェイスによって実際の結果が異なる可能性があります。

今のMacの実行設定を先に更新する

M3 Ultraで旧エンジンを使っているなら、ハードを替えずに待ち時間を減らせる余地があります。推奨エンジン・量子化・加速設定を合わせてから比べましょう。新チップとソフト更新の効果を分けて判断できます。

長いプリフィルと長い回答を分けて試す

報告書をよく入力するなら長い入力の全体モードが重要です。コードや長い原稿を作るなら回答が続く速度を比較しましょう。どの段階を短縮すれば作業が途切れにくいか決め、費用と照らし合わせると交換理由が明確になります。

SSDのロードと推論の待ち時間を分ける

最初のロードと質問ごとの待ち時間では改善方法が違います。初回だけ遅いなら常駐と保存場所を確認し、同じ文書の繰り返しならキャッシュ設定を調べます。新MacのSSDとチップを比べる場合も、段階を分けて記録しましょう。