NVIDIA GeForce RTX 5070 12GB 12GB GPU 메모리 · 본체 비용은 별도
VRAM 12GB와 메모리 대역폭 672GB/s를 갖췄어요. 계산의 시스템 RAM 기준은 64GB·90GB/s이며, 실제 오프로딩 속도는 PC 구성에 따라 달라져요.
같은 모델로 속도와 메모리 확인
하드웨어 핵심 사양
- 사용 가능 메모리
- 11GB
- 메모리 대역폭
- 672GB/s
- LLM 지속 부하 추정
- 약 275W
- 현재 참고 범위
- 116만원–129만원
잘 맞는 사람
- 11GB 가용 메모리 활용
- CUDA 기반 로컬 추론
- K2 Horizon MoVA 36B-A4B급 고속 생성
이 경우에는 건너뛰세요
가격은 GPU 단품, 전기요금은 GPU를 포함한 PC 전체 소비전력 추정입니다. 구매 예산에는 호스트 PC·파워·냉각 비용을 별도로 더하세요.
장비별 추천 포맷 · 4K 입력
이 장비에서 체감할 모델
K2 Horizon 0.9B
필요 1.03GB · 여유
llama.cpp CUDA · Q4_K_M
토큰 생성
912.9 ~ 1039.7 tok/s
첫 토큰
0.20 ~ 0.38초
K2 Horizon MoVA 36B-A4B
추천필요 21.94GB · 빠듯
llama.cpp CUDA · Q4_K_M
토큰 생성
21.3 ~ 21.4 tok/s
첫 토큰
1.4 ~ 2.6초
Qwen3.8-Flash-Next
필요 47GB · 빠듯
Strata 0.1.36 (#136) · Q2_0 · fused int8 tensor-core prompt experts · RTX 50 thread-block-cluster decode · greedy argmax
토큰 생성
74.8 ~ 112.2 tok/s
첫 토큰
2.2 ~ 3.3 초
실제 속도는 런타임 버전과 냉각 상태, 문맥 길이, 양자화 파일에 따라 달라져요.
판매 페이지에서는 칩보다 메모리를 먼저 보세요.
같은 제품명이라도 12GB 구성이 아니면 위 모델과 속도 조건이 달라집니다.
자주 묻는 질문
- RTX 5070 12GB에서 어떤 로컬 LLM을 돌릴 수 있나요?
- K2 Horizon 0.9B, K2 Horizon MoVA 36B-A4B, Qwen3.8-Flash-Next 등을 4K 입력과 추천 포맷으로 비교할 수 있어요. 필요한 메모리는 모델과 문맥 길이에 따라 달라져요.
- RTX 5070 12GB의 로컬 LLM 전력은 어느 정도인가요?
- 지속 부하 기준 약 275W이고 실제 범위는 183–380W로 보여요.
- 표시된 토큰 속도는 실측값인가요?
- 수집한 벤치마크 실측을 같은 조건으로 맞춘 범위예요. 같은 조건의 실측이 없는 조합은 가까운 실측값을 기준으로 추정하고, 런타임과 냉각, 양자화 파일, 문맥 길이에 따라 달라져요.
함께 비교할 장비
비슷한 메모리
Mac mini M4 16GB
비용을 최소화해 8B~12B급 모델부터 시작할 때 맞는 구성입니다.
비슷한 메모리
Mac mini M4 24GB
짧은 문서를 요약하고 코드 한 부분을 묻는 용도라면 큰 모델보다 지금 쓸 모델의 답변이 충분한지부터 보세요. 12B급 Q4가 목적에 맞으면, 32GB를 사야 할 이유는 메모리 여유가 더 필요한 작업이 있을 때입니다.
비슷한 메모리
RTX 3090 24GB
이미 RTX 3090이 있다면 목표 모델과 문맥이 24GB 안에 들어가는지부터 보세요. 필요한 작업이 끝까지 된다면 신형 카드가 나왔다는 이유만으로 바꿀 필요는 없습니다. 새로 중고를 산다면 카드값뿐 아니라 내 PC의 파워·냉각·케이스와 반품 조건까지 합쳐 비교합니다.