RTX 3090 BF16アンロック：変わるものと変わらないもの

gpu-unlockは、RTX 3090で塞がれていたBF16演算率を開くLinuxカーネルモジュールです。UEFIアプリでもパッチ済みNVIDIAドライバーでもなく、ドライバーがカードを掴む前に速度セレクターを書き込む方式です。モジュールはGPL-2.0で、生成されるファームウェアはCMPアンロックの参考資料に由来します。

リポジトリの説明では、SS0に0x88888888を書いてBF16のフルレートを選び、4ビットのSS1 0x8も書き込みますが、その効果は未検証です。カードはコールドブート状態である必要があり、ウォームリブートは非対応です。

メンテナーは「BF16/F16演算が約40%速くなる」と答えています。実数値が公開されたのは3090 Tiを試した別フォークです。450W、dense 8192³ GEMM、FP32⁴累積、5回中央値の条件で、BF16は87.50から157.41 TFLOPS、FP16⁵は87.46から118.39、TF32は42.58から82.61へ増えました。

この表は3090 Tiの値で、試験環境もUbuntuカーネル7.0.0-38、修正ドライバー610.43.02、別のinitramfsフックでした。3090でも同方向の変化が報告されていますが、3090のGEMM表はまだ公開されていません。

このアンロックは演算経路だけに触れます。RTX 3090の24GB GDDR6X、936GB/sの帯域幅、電力上限はそのままです。48GB改造のようにメモリチップを替える作業とは別物で、大きなモデルを多く載せられるようにもなりません。

1トークン⁶ずつ生成するデコード段階は、メモリから重みを読む速度に縛られます。そのためBF16演算率が上がっても、1リクエストのtok/sが同じ比率で上がるわけではありません。

リポジトリが確認したのは、CachyOS 7.2.8-1カーネル、NVIDIA 615.71.09、PCIアドレス0000:21:00.0のRTX 3090 1台です。同じ機材の別カードは未改造の対照群でした。同じGA102でも製品IDが異なればモジュールは拒否するため、対象は3090と別フォークが扱う3090 Tiに限られます。

6.15以下のカーネルではドライバー読み込み前に電源状態が上がらず、アンロックが失敗する報告があります。回避パッチがイシューとして上がっています。3090 Tiは別フォークのみの対応で、他のGA102製品IDは拒否されます。

モジュールはカーネルコマンドラインにgpu_unlock.targets=が必要です。たとえばgpu_unlock.targets=0000:21:00.0のようにPCIアドレスを指定するか、allを使います。initramfsでnvidiaより先に読み込ませ、完全に電源を切ってから起動します。

元に戻すにはカーネルコマンドラインからオプションを消し、パッケージを削除します。ファームウェアが停止しない場合、モジュールは次の電源断までDMAバッファを保持するため、再試行前に必ず電源を切ってください。画面が出ない場合はブートローダーの編集画面でオプションを消して起動します。

プリフィル⁷、同時リクエスト、LoRA⁸ファインチューニングのように行列演算がボトルネックの作業を3090で回す人には意味があります。逆に1件ずつ短い回答を得る用途では利得は小さいです。業務機ではなく試験用PCで、基準線を記録してから試してください。

試験では電力上限とモデルを固定し、プリフィル時間と同時リクエストの処理量をあわせて記録してください。行列演算だけを見るならGEMM、体感を確かめるならllama-benchを使います。