로컬 LLM 속도·비용 계산 기준한 숫자를 단정하기보다 같은 조건의 범위를 비교합니다.

장비 상세 페이지의 대표 비교는 Q4 양자화, 4K 문맥, 단일 사용자 조건입니다. 모델 가중치와 실행 오버헤드, KV 캐시가 실제 사용 가능 메모리 안에 들어가는지 먼저 판정합니다.

속도 범위의 출발점은 사이트가 수집한 벤치마크 실측 기록입니다. 장비, 모델, 양자화, 런타임, 입력과 출력 토큰 수를 확인할 수 있는 기록을 같은 조건으로 맞춰 비교합니다.

동일 조건의 실측이 없는 조합은 가까운 실측값에 메모리 대역폭, 활성 파라미터와 런타임 오버헤드를 반영해 범위로 보정합니다. 직접 측정, 외부 실측 수집, 실측 기반 추정을 같은 값처럼 표시하지 않습니다.

같은 조건으로 반복한 결과와 장비·모델·런타임 정보가 확인되는 기록만 검토합니다. 사용자 제출 기록은 관리자가 조건과 근거를 확인한 뒤 승인하며, 승인만으로 계산기에 자동 반영하지 않습니다.

프리필은 입력 토큰을 처리하는 단계, 디코드는 답변 토큰을 순차 생성하는 단계로 나눕니다. 수집한 실측 기록을 비교 조건에 맞춰 정규화하고, 반복 측정의 전체 흐름에서 크게 벗어나는 값은 대표 범위에서 제외합니다.

전력은 순간 최대치가 아니라 로컬 추론의 지속 부하 범위로 계산합니다. TCO는 구매가, 예상 매각가, 전기요금과 실제로 대체하는 구독료를 1년과 2년으로 나눠 비교합니다.

런타임 버전, 냉각, 양자화 파일, 문맥 길이와 멀티 GPU 통신에 따라 실제 결과가 달라질 수 있습니다. 따라서 구매 직전에는 선택한 모델과 정확한 메모리 구성으로 속도 체감기를 다시 확인하는 것이 좋습니다.