로컬 LLM 하드웨어 가이드

맥, NVIDIA GPU, DGX Spark와 AMD 통합 메모리 장비의 모델 적재량, 프리필, 토큰 생성 속도, 전력과 비용을 장비별로 확인합니다.

이 목록을 보는 순서

사용하려는 모델이 들어가는 메모리 용량으로 먼저 좁힌 뒤, 대표 모델의 토큰 생성 속도와 첫 토큰 시간, 지속 부하 전력과 현재 가격 범위를 차례로 비교하세요.

전체 45개