Q4_K_M · 4Kコンテキスト

K2 Horizon 0.9B 0.9BのDenseモデル · Q4_K_Mの推定メモリ約2GB

K2 Horizonファミリーの最小の密集モデルです。軽い分類、要約、ローカルオートメーションの最初の候補であり、長いコンテキスト制限と実際の機器で維持するコンテキスト長は区別する必要があります。

Q4_K_Mの推定メモリ
約2GB
総パラメータ
0.9B
活性パラメータ
0.9B
ネイティブコンテキスト
128K

モデルから探す

このモデルに合う機器を探す

文書検索も同時に動かすなら

埋め込み・再ランキングモデルを同じGPUまたはユニファイドメモリに置く場合の予備容量です。CPUで別に動かすなら追加なしにしてください。

条件に合う機器 44· 5件を表示

Mac mini M4 16GB

余裕あり · Q4_K_M · 空き 12.0GB

₩1,180,000

154 ~ 172.1 tok/s

MBA M4 16GB

余裕あり · Q4_K_M · 空き 12.0GB

₩1,525,000

149.4 ~ 167.5 tok/s

Mac mini M6 16GB

余裕あり · Q4_K_M · 空き 12.0GB

₩1,669,000

202.1 ~ 225.2 tok/s

Mac mini M4 24GB

余裕あり · Q4_K_M · 空き 19.0GB

₩1,925,000

154 ~ 172.1 tok/s

MBA M4 24GB

余裕あり · Q4_K_M · 空き 19.0GB

₩1,950,000

149.4 ~ 167.5 tok/s

価格は範囲の中央値です。GPU単体には基本構成の費用を加えています。速度は同じモデル・4K入力での推定です。

デバイスから再選択したい場合

予算、騒音、オペレーティングシステム、および中古許容の有無を基に、モデルが導入される構成をまず絞り込むことができます。