양쪽 동시 체감 · 추천 실행 설정

RTX 3090 2장 vs RTX 5090 1장 로컬 LLM 비교

큰 모델을 넣는 것이 우선이면 3090 두 장, 단일 GPU 속도와 단순한 구성이 우선이면 5090 한 장이 맞습니다.

비교할 장비와 모델

비교 범위
비교 조건 펼쳐보기

같은 212토큰 답변의 예상 시간입니다. 공개 측정이 있는 가속만 자동 선택하며, 장비별 실행 포맷은 각 결과에 표시합니다.

왼쪽

시작 전

2× RTX 3090 48GB (NVLink)

첫 토큰1.3 ~ 3.6 초
프리필1134.1 ~ 3122.7 tok/s
토큰 생성67.1 ~ 184.9 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

Strata 0.1.40 · IQ3_S · MTP-4 · pipeline-windows 2 · SSD PLE0.0초 · 0/212

오른쪽

시작 전

RTX 5090 32GB

첫 토큰0.46 ~ 0.94 초
프리필4375.9 ~ 9044.5 tok/s
토큰 생성127.7 ~ 263.9 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

Strata 0.1.41 · IQ3_S · MTP-6 · INT8 KV · SSD PLE0.0초 · 0/212

이 조건에서는 RTX 5090 32GB가 전체 답변을 약 2.1배 먼저 마칩니다.

입력 처리부터 212토큰 답변 완료까지 비교합니다.

어느 쪽이 나에게 맞을까?

답변 완료

RTX 5090 32GB

예상 중간값에서 같은 답변을 약 2.1배 먼저 마칩니다.

입력 처리

RTX 5090 32GB

입력 처리 예상 중간값이 6,710 tok/s로 더 높습니다.

이미지·영상 생성

모델별 확인

LLM 속도로는 판단할 수 없습니다. 생성할 이미지·영상 모델과 해상도를 따로 골라보세요.

실행 환경

장비별 설정

Strata 0.1.40 · IQ3_S · MTP-4 · pipeline-windows 2 · SSD PLE / Strata 0.1.41 · IQ3_S · MTP-6 · INT8 KV · SSD PLE. 장비별 실행 경로가 다르면 속도 차이에 프로그램과 모델 포맷의 영향도 포함됩니다.

예상 소비전력

RTX 5090 32GB

LLM 사용 중 예상 소비전력이 약 620W로 더 낮습니다. 소음과 본체 크기는 별도 확인이 필요합니다.

가격 차이 판단

2× RTX 3090 48GB (NVLink)는 GPU 2장, RTX 5090 32GB는 GPU 단품 가격입니다. GPU 단품에는 본체 비용을 더한 뒤 비교해야 합니다.

구매 전 함께 볼 것

비교 기준2× RTX 3090 48GB (NVLink)RTX 5090 32GB
가용 고속 메모리45GB30.5GB
메모리 대역폭1872GB/s1792GB/s
전체 완료 예상3.6초1.7초
LLM 지속 부하 추정약 780W약 620W
현재 참고 범위478–478만원899–929만원
2× RTX 3090 48GB (NVLink) 상세 보기
RTX 5090 32GB 상세 보기

표시 값은 단일 사용자 예상 범위입니다. 멀티 GPU·멀티 장비 구성은 런타임과 인터커넥트에 따라 실제 결과가 달라질 수 있습니다.