ローカルLLMモデル別推奨スペック

最新のオープンウェイトモデルのQ4での必要メモリ、ネイティブコンテキスト長、量子化条件および代表デバイス別での予想速度を、購入前に比較します。

このリストを確認する順序

モデルの総パラメータだけを見てはいけません。Q4の必要メモリと活性パラメータを一緒に確認してください。同じモデルでも、デバイスの利用可能なメモリと帯域幅によって、ロード可能かどうかや実感速度が異なります。

全体7つ