로컬 LLM 모델별 권장 사양
최신 오픈 가중치 모델의 Q4 필요 메모리, 네이티브 문맥 길이, 양자화 조건과 대표 장비별 예상 속도를 구매 전에 비교합니다.
이 목록을 보는 순서
모델의 총 파라미터만 보지 말고 Q4 필요 메모리와 활성 파라미터를 함께 확인하세요. 같은 모델이라도 장비의 가용 메모리와 대역폭에 따라 적재 여부와 체감 속도가 달라집니다.
최신 오픈 가중치 모델의 Q4 필요 메모리, 네이티브 문맥 길이, 양자화 조건과 대표 장비별 예상 속도를 구매 전에 비교합니다.
모델의 총 파라미터만 보지 말고 Q4 필요 메모리와 활성 파라미터를 함께 확인하세요. 같은 모델이라도 장비의 가용 메모리와 대역폭에 따라 적재 여부와 체감 속도가 달라집니다.