Q4 · 4K 문맥 기준
Gemma 4 12B: 11.95B 밀도형 모델, 최소 메모리와 체감 속도를 함께 보세요.
Gemma 4 12B Q4 실행에 필요한 약 8GB 메모리와 장비별 프리필, 토큰 생성 속도, 양자화 및 262,144 토큰 문맥 조건을 비교합니다.
모델 사양
- Q4 필요 메모리
- 약 8GB
- 총 파라미터
- 11.95B
- 활성 파라미터
- 11.95B
- 네이티브 문맥
- 262,144 토큰
11.95B 파라미터 밀도형 단일 모델로 256K(262,144) 네이티브 컨텍스트를 지원합니다. 16GB~24GB GPU 및 Mac 환경에서 고속 단독 구동이 가능합니다.
대표 장비
- Mac mini M4 16GB — 가용 13GB, 120GB/s
- 2× RTX 5090 64GB (PCIe) — 가용 61GB, 3584GB/s
- MBA M4 16GB — 가용 13GB, 120GB/s