プリフィル・トークン生成速度
Mac Studio M5 Ultra 512GBでQwen Flash Nextの速度
M5 Ultra 512GBでQwen3.8 Flash Nextを動かす速度体験です。搭載容量と応答速度を分けて見ながら、同じ512GBのM3 Ultra構成と比較できます。
ベンチマーク基準の推定 · 4K入力 · 単一ユーザー
最終更新
103.5 ~ 184.1 tok/sデコード速度(基本: 同条件の基準値なし)
モデル全体のロード(155GB / 480GB)
最初のトークン (TTFT)
0.65 ~ 1.2 秒コンテキスト 4,096トークンを含む
プリフィル速度
3563.3 ~ 6334.7 tok/s0.65 ~ 1.1 秒 (公開ベンチマークに基づく推定)
全体消費時間(E2E)
1.7 ~ 3.1 秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
1200 GB/s
アクティブ 6B / 常駐する重み 180B
詳細条件を展開する 詳細条件4-bit · 4K · Lightning MTP折りたたむ
量子化精度必要 155GB
入力文脈長4K トークン
Lightning MTP
基本
例質問:
203 トークン回答結果を見るポイント
大容量でもモデルファイルの大きさだけでは判断できません。文脈や加速用バッファも必要です。この画面は単一ユーザーの条件で、複数エージェントを同時実行する処理量ではありません。
- 必要メモリ / 使用可能
- 155.0GB / 480GB
- 実行経路
- oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on
同じモデルで並べて比較
M3 Ultra 512GBで同じモデルを使うと、容量と世代の差を分けて見られます。512GB構成の販売状況や注文条件は機器詳細で別途確認してください。
構成確認
Studio M5 Ultra 512GB · メモリ 512GB
Qwen3.8-Flash-Next Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。
文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較
代表的な条件
機器・モデル別の速度体験
Studio M3 Ultra 512GB × Qwen3.8-Flash-Next
50 ~ 70.3 tok/s · 3.3 ~ 4.5秒
RTX PRO 6000 96GB × Qwen3.8-Flash-Next
175.2 ~ 340.0 tok/s · 1.2 ~ 2.2 秒
DGX Spark 2台でQwen Flash Nextはどう変わる?
16.7 ~ 33.8 tok/s · 1.7 ~ 4.3秒
2× RTX 5090 64GB (PCIe) × Qwen3.8-Flash-Next
127.7 ~ 263.9 tok/s · 0.46 ~ 0.94 秒
