양쪽 동시 체감 · 추천 실행 설정

RTX 3090 vs RTX 5080, 로컬 AI에서 24GB를 줄여도 될까?

3090에서 5080으로 바꾸면 VRAM이 24GB에서 16GB로 줄어요. 원하는 모델이 새 카드에 들어가는지부터 확인하고, 들어가는 조합에서 속도와 전력을 비교하세요.

비교할 장비와 모델

비교 범위
비교 조건 펼쳐보기

같은 212토큰 답변의 예상 시간입니다. 공개 측정이 있는 가속만 자동 선택하며, 장비별 실행 포맷은 각 결과에 표시합니다.

왼쪽

시작 전

RTX 3090 24GB

첫 토큰1.5 ~ 2.9 초
프리필1423.9 ~ 2764.1 tok/s
토큰 생성61.5 ~ 119.4 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

Strata 0.1.28 · IQ3_S · MTP · SSD PLE0.0초 · 0/212

오른쪽

시작 전

RTX 5080 16GB

첫 토큰1.4 ~ 3.1 초
프리필1310.1 ~ 2985.3 tok/s
토큰 생성58.7 ~ 133.8 tok/s

위의 시작 버튼을 누르면 양쪽 장비가 같은 답변을 동시에 생성합니다.

Strata · Blackwell (CC 12.0) · CUDA · MTP · NVMe PLE · single GPU0.0초 · 0/212

이 조건에서는 RTX 5080 16GB가 전체 답변을 약 1.0배 먼저 마칩니다.

입력 처리부터 212토큰 답변 완료까지 비교합니다.

어느 쪽이 나에게 맞을까?

답변 완료

RTX 5080 16GB

예상 중간값에서 같은 답변을 약 1.0배 먼저 마칩니다.

입력 처리

RTX 5080 16GB

입력 처리 예상 중간값이 2,148 tok/s로 더 높습니다.

이미지·영상 생성

모델별 확인

LLM 속도로는 판단할 수 없습니다. 생성할 이미지·영상 모델과 해상도를 따로 골라보세요.

실행 환경

장비별 설정

Strata 0.1.28 · IQ3_S · MTP · SSD PLE / Strata · Blackwell (CC 12.0) · CUDA · MTP · NVMe PLE · single GPU. 장비별 실행 경로가 다르면 속도 차이에 프로그램과 모델 포맷의 영향도 포함됩니다.

예상 소비전력

RTX 5080 16GB

LLM 사용 중 예상 소비전력이 약 352W로 더 낮습니다. 소음과 본체 크기는 별도 확인이 필요합니다.

가격 차이 판단

참고 가격의 중간값 차이는 약 4만원입니다. 실제 판매 옵션과 보증 조건을 함께 확인하세요.

구매 전 함께 볼 것

비교 기준RTX 3090 24GBRTX 5080 16GB
가용 고속 메모리22.5GB15GB
메모리 대역폭936GB/s960GB/s
전체 완료 예상4.3초4.1초
LLM 지속 부하 추정약 420W약 352W
현재 참고 범위239–239만원231–239만원
RTX 3090 24GB 상세 보기
RTX 5080 16GB 상세 보기

표시 값은 단일 사용자 예상 범위입니다. 멀티 GPU·멀티 장비 구성은 런타임과 인터커넥트에 따라 실제 결과가 달라질 수 있습니다.

현재 쓰는 파일을 그대로 올릴 수 있을까요?

3090에서 잘 쓰던 27B 양자화 파일이 5080에서는 대화 공간까지 포함해 부족해질 수 있어요. 교체 전에 같은 모델과 입력을 선택해 적재 상태를 비교하세요. 더 작은 양자화로 바꿀 계획이라면 평소 질문의 답변 품질도 함께 확인해야 해요. 용량이 줄어도 사용할 작업이 그대로 가능한지가 첫 기준입니다.

새 엔진과 기존 카드 설정을 모두 확인해요

5080의 추천 실행 설정을 3090에서 그대로 쓰는 대신 각 카드에 맞는 경로를 선택해야 해요. 기존 3090의 엔진을 갱신하는 것만으로 대기를 줄일 수 있는지도 먼저 살펴보세요. 화면에서 모델을 바꾸면 양쪽의 추천 런타임과 적재 방식도 함께 바뀌므로, 사용할 파일을 정할 때 이 표시를 참고하면 돼요.

24GB가 필요하면 유지·추가·교체를 비교해요

16GB에서 자주 용량이 부족하다면 3090을 유지하거나 다른 GPU를 추가하는 방법도 있어요. 두 장으로 모델을 나눌 때는 실행 엔진의 분할 기능과 PC의 슬롯·전원·냉각이 필요합니다. 단일 카드 교체를 원하면 32GB 5090과도 비교해보세요. 기존 카드에서 가능했던 작업을 유지하며 속도를 올리는 경로를 찾을 수 있어요.