CMP 170HXは電力を下げても速度を保てる？

電力上限（power limit）はGPUが使える電力の最大値を定めます。下げると小さい電力枠で動作し、負荷が上限に達したときクロックや処理量が下がることがあります。電力使用はモデル、入力長、リクエスト数で変わるため、実際に使うリクエストで比較してください。

GPUが報告する電力と、コンセント側で測るシステム全体の電力は測定範囲が異なります。下表の4 GPU電力は4枚分の合計で、CPU²、メモリ、ファン、電源損失を含む壁電力ではありません。

公開GLM-5.3-Flash試験はCMP 170HXを4枚Tensor Parallel³ 4で構成し、カードごとの電力上限を変えました。単一利用者の列は構造化リクエスト1件の出力速度、8利用者の列は8件の合計処理量です。表では単一速度、同時処理量、4 GPU電力合計を分けて示します。

測定条件：GLM-5.3-Flash TP4、CMP 170HX 4枚、全カードHBM 1,728MHz、電力上限は稼働中に適用。GPU電力は4枚分の合計で壁電力ではありません。PixelML原記録

カードごとの上限を165Wから140Wに下げると、4 GPU合計は650Wから537Wへ113W減りました。単一利用者の速度は418.6から412.7 tok/sへ約1.4%、8人合計の処理量は822.4から814.2 tok/sへ約1%下がりました。この4枚GLM構成ではどちらの負荷も近い値を保ちましたが、単一と8人の値を置き換えて使うことはできません。

別のQwen3.8-27B 1枚試験は、64GiB、74 SM、HBM 1728MHz、PCIe Gen2 x16のCMP 170HXを強制空冷し、180Wで完了しました。研究者は250Wで試験を開始しましたが、1分以内にメモリ温度が80°Cに達したため中止しました。つまり180Wは完了した試験条件で、80°Cは250W試験での停止点です。メーカー共通の上限温度ではありません。

この結果は4枚GLM表とはモデル、カード数、リクエスト、冷却が異なるため直接比較できません。研究者は別々の公開実行記録に残しています。Qwen 1枚試験の条件とログ

Linuxでnvidia-smi -q -d POWER,TEMPERATURE,CLOCKを実行し、出力を保存してください。カードごとの現在の上限、対応する最小・最大値、温度、クロックを先に記録します。カードが示す範囲を確認する前に、任意の-pl値を適用しないでください。CMP 170HXはパッシブヒートシンクのため、強い強制空冷が機能していることも確認します。

180Wがカード0の対応範囲内にある場合だけ、下の例を使ってください。このコマンドはカード0のみを変更します。適用後は同じリクエストを数回実行し、TTFT⁴、出力tok/s、電力、メモリ温度を記録します。温度が上がり続けたりエラーが出たりしたら負荷を止めてください。

カード0の元の上限に戻すには、OLD_LIMIT_Wを記録した数値に置き換えて復元コマンドを実行します。たとえば記録値が165Wなら、プレースホルダーを165に変えます。試験結果を保存した後、設定を再度読み取り、記録値と一致することを確認してください。

同じ測定点で電力差が100W、1日8時間を30日使うと仮定すると、100÷1000×8×30=24kWhです。これは計算例であり、CMP 170HXの壁電力測定ではありません。GPUの読み取り値をシステム全体の電力と同じ範囲で扱わないでください。

電気料金を見積もるにはシステム全体の電力をコンセント側で測り、実際の稼働時間と契約中の料金プランをサイトの電気料金ツールに入力してください。速度と温度が普段の運用条件を満たす設定だけを使います。