Q4_K_M · 4K 문맥 기준
DeepSeek-V4-Flash-0731 (MoE) 총 304B 중 토큰당 13B가 활성화되는 MoE 모델 · Q4_K_M 예상 메모리 약 181GB
총 304B 파라미터(13B 활성)의 대규모 MoE 모델로 공식 1,048,576(1M) 토큰 컨텍스트(max_position_embeddings)를 지원합니다. 공식 예시는 4×GB300 노드를 사용하며, 커뮤니티 압축본은 아티팩트별 실제 크기와 런타임 호환성을 별도로 확인해야 합니다.
- Q4_K_M 예상 메모리
- 약 181GB
- 총 파라미터
- 304B
- 활성 파라미터
- 13B
- 네이티브 문맥
- 1024K
모델에서 장비로
이 모델을 돌릴 장비 찾기
문서 검색도 함께 돌린다면
임베딩·재정렬 모델을 같은 GPU 또는 통합 메모리에 올릴 때 남겨둘 공간입니다. CPU에서 따로 실행한다면 추가 없음으로 두세요.
조건에 맞는 장비 7· 5개 표시
가격은 범위의 중간값이며 GPU 단품에는 기본 본체 비용을 더했습니다. 속도는 동일 모델·4K 입력의 추정 범위입니다.
실행 가이드
DeepSeek-V4-Flash-0731 (MoE) 로컬 서빙 실행 레시피
장비를 고르면 양자화, 안전 문맥, GPU 오프로드, Flash Attention, KV 캐시와 배치 시작값이 함께 바뀍니다.
장비부터 다시 고르고 싶다면
예산, 소음, 운영체제와 중고 허용 여부를 기준으로 모델이 들어가는 구성을 먼저 좁힐 수 있습니다.