プリフィル・トークン生成速度

Mac Studio M5 Ultra 512GBでQwen Flash Nextの速度

M5 Ultra 512GBでQwen3.8 Flash Nextを動かす速度体験です。搭載容量と応答速度を分けて見ながら、同じ512GBのM3 Ultra構成と比較できます。

ベンチマーク基準の推定 · 4K入力 · 単一ユーザー

最終更新

103.5 ~ 184.1 tok/sデコード速度(基本: 同条件の基準値なし)
モデル全体のロード(155GB / 480GB)
最初のトークン (TTFT)
0.65 ~ 1.2 秒コンテキスト 4,096トークンを含む
プリフィル速度
3563.3 ~ 6334.7 tok/s0.65 ~ 1.1 秒 (公開ベンチマークに基づく推定)
全体消費時間(E2E)
1.7 ~ 3.1 秒203トークン回答合計
再生ボタンを押すと、文脈プリフィル後に生成が開始されます。
待機中
機器・モデルを変更
1200 GB/s
アクティブ 6B / 常駐する重み 180B
詳細条件を展開する 4-bit · 4K · Lightning MTP
量子化精度必要 155GB
入力文脈長4K トークン
Lightning MTP
基本
例質問:
203 トークン回答

結果を見るポイント

大容量でもモデルファイルの大きさだけでは判断できません。文脈や加速用バッファも必要です。この画面は単一ユーザーの条件で、複数エージェントを同時実行する処理量ではありません。

必要メモリ / 使用可能
155.0GB / 480GB
実行経路
oMLX 0.7.0 (4d4f5a28) · mlx-lm 94cdcae · mlx 0.32.2 · native kernels · Lightning MTP on

同じモデルで並べて比較

M3 Ultra 512GBで同じモデルを使うと、容量と世代の差を分けて見られます。512GB構成の販売状況や注文条件は機器詳細で別途確認してください。

構成確認

Studio M5 Ultra 512GB · メモリ 512GB

Qwen3.8-Flash-Next Q4_K_M の構成です。販売ページのメモリ容量が同じか確認してください。

文書が長くなると、どう変わる?入力長ごとの待ち時間・速度・メモリを開く
詳細分析および全体 60ハードウェア比較

代表的な条件

20件をすべて見る