양쪽 동시 체감 · 추천 실행 설정

DGX Spark vs RTX 5090, 로컬 LLM은 무엇이 다를까?

큰 모델을 넣어야 한다면 Spark의 128GB 메모리에서 실행 가능한 구성을 먼저 고르세요. 모델이 5090의 32GB에 들어간다면 같은 모델과 입력으로 속도를 비교하고, GPU 외에 필요한 PC 구성 비용도 함께 계산하면 돼요.

비교할 장비와 모델

비교 범위
비교 조건 펼쳐보기

같은 212토큰 답변의 예상 시간입니다. 공개 측정이 있는 가속만 자동 선택하며, 장비별 실행 포맷은 각 결과에 표시합니다.

왼쪽

시작 전

DGX Spark 128GB

첫 토큰2.7 ~ 4.9초
프리필839 ~ 1,535 tok/s
토큰 생성16.7 ~ 23.4 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

llama.cpp · Q4_K_M0.0초 · 0/212

오른쪽

시작 전

RTX 5090 32GB

첫 토큰0.46 ~ 0.94 초
프리필4375.9 ~ 9044.5 tok/s
토큰 생성127.7 ~ 263.9 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

Strata 0.1.41 · IQ3_S · MTP-6 · INT8 KV · SSD PLE0.0초 · 0/212

이 조건에서는 RTX 5090 32GB가 전체 답변을 약 8.7배 먼저 마칩니다.

입력 처리부터 212토큰 답변 완료까지 비교합니다.

어느 쪽이 나에게 맞을까?

답변 완료

RTX 5090 32GB

예상 중간값에서 같은 답변을 약 8.7배 먼저 마칩니다.

입력 처리

RTX 5090 32GB

입력 처리 예상 중간값이 6,710 tok/s로 더 높습니다.

이미지·영상 생성

모델별 확인

LLM 속도로는 판단할 수 없습니다. 생성할 이미지·영상 모델과 해상도를 따로 골라보세요.

실행 환경

장비별 설정

llama.cpp · Q4_K_M / Strata 0.1.41 · IQ3_S · MTP-6 · INT8 KV · SSD PLE. 장비별 실행 경로가 다르면 속도 차이에 프로그램과 모델 포맷의 영향도 포함됩니다.

예상 소비전력

DGX Spark 128GB

LLM 사용 중 예상 소비전력이 약 190W로 더 낮습니다. 소음과 본체 크기는 별도 확인이 필요합니다.

가격 차이 판단

DGX Spark 128GB는 완제품, RTX 5090 32GB는 GPU 단품 가격입니다. GPU 단품에는 본체 비용을 더한 뒤 비교해야 합니다.

구매 전 함께 볼 것

비교 기준DGX Spark 128GBRTX 5090 32GB
가용 고속 메모리116GB30.5GB
메모리 대역폭273GB/s1792GB/s
전체 완료 예상15초1.7초
LLM 지속 부하 추정약 190W약 620W
현재 참고 범위952–1,030만원899–929만원
DGX Spark 128GB 상세 보기
RTX 5090 32GB 상세 보기

표시 값은 단일 사용자 예상 범위입니다. 멀티 GPU·멀티 장비 구성은 런타임과 인터커넥트에 따라 실제 결과가 달라질 수 있습니다.