로컬 LLM 모델별 권장 사양

최신 오픈 가중치 모델의 Q4 필요 메모리, 네이티브 문맥 길이, 양자화 조건과 대표 장비별 예상 속도를 구매 전에 비교합니다.

이 목록을 보는 순서

모델의 총 파라미터만 보지 말고 Q4 필요 메모리와 활성 파라미터를 함께 확인하세요. 같은 모델이라도 장비의 가용 메모리와 대역폭에 따라 적재 여부와 체감 속도가 달라집니다.

전체 7개