새로 나온 모델 · 2026-09-04
GLM-5.3·DeepSeek-V4 공개: 오픈웨이트인데 개인 PC에서 가능한가
가중치가 공개됐다는 소식에 파일을 받으려다 크기부터 놀랄 수 있습니다. 오픈웨이트는 누구나 작은 PC에서 실행한다는 뜻일까요? GLM-5.3-Flash와 DeepSeek-V4-Flash 같은 대형 모델은 공개 여부와 실행 장비의 규모를 나누어 읽어야 합니다.
내가 통제하는 환경과 내 책상 한 대는 다릅니다
오픈웨이트는 정해진 라이선스 조건으로 가중치를 받아 직접 다룰 수 있다는 뜻입니다. 파일이 공개됐다고 메모리와 실행 프로그램의 요구가 작아지는 것은 아닙니다. 한 회사가 운영하는 여러 서버에서도 외부 추론 서비스 없이 실행할 수 있습니다.
따라서 로컬이라는 말은 개인 노트북부터 조직의 내부 서버까지 다른 규모를 포함할 수 있습니다. 모델 발표의 서버 예시를 내 그래픽카드 한 장의 설치 설명처럼 읽으면 장비 조건을 잘못 판단할 수 있습니다.
작은 활성 숫자 뒤에 큰 보관 규모가 있습니다
이 사이트에 등록된 GLM-5.3-Flash는 전체 약 320B·활성 약 18B, DeepSeek-V4-Flash는 전체 약 304B·활성 약 13B를 구분합니다. 활성 수치는 토큰 하나에서 쓰는 경로이며 전체 파일을 그 규모로 줄여주지 않습니다.
낮은 정밀도로 바꾸더라도 전체 가중치, 캐시와 런타임 공간을 합쳐야 합니다. 어느 모델이 더 가볍다는 판단도 파일 형식과 분할 경로 없이 숫자 하나로 정할 수는 없습니다. 커뮤니티 압축본과 공식 체크포인트도 조건이 다릅니다.
여러 가속기는 연결까지 하나의 구성입니다
모델을 나누면 각 GPU는 맡은 가중치와 상태를 저장하고 계산 중 필요한 결과를 주고받습니다. GPU 수와 메모리 합계뿐 아니라 실제 연결과 런타임의 병렬 방식이 중요해집니다.
공식 예시가 특정 서버 노드를 사용한다면 같은 개수의 소비자 GPU를 꽂았다고 같은 구성은 아닙니다. 카드별 메모리, 연결 대역폭과 지원 커널이 다릅니다. 복사할 명령보다 먼저 그 명령이 전제로 한 장비를 확인해야 합니다.
대용량 맥에서도 파일과 실행 경로는 따로 확인합니다
통합 메모리가 크면 압축본을 담을 가능성이 넓어지지만, 새 모델 구조를 앱이 처리하는지는 별개의 문제입니다. 다운로드가 가능하고 용량 계산이 맞아도 실제 실행은 실패할 수 있습니다. 해당 변환본과 버전의 재현 기록이 필요합니다.
최대 문맥을 모두 사용하면 캐시와 입력 처리 부담도 커집니다. 모델이 켜진 뒤 짧은 질문부터 확인하고 긴 문서로 늘려야 합니다. 결과가 나왔을 때는 속도뿐 아니라 문서의 중요한 내용을 놓치지 않았는지도 봐야 합니다.
큰 모델이 꼭 필요한 작업이 있나요?
작은 모델로 해결되지 않던 질문을 큰 모델에서 더 정확하게 처리한다면 비용을 검토할 이유가 있습니다. 여러 사람이 함께 사용할 서버라면 총 처리량과 운영 통제도 가치가 됩니다. 다만 모델 순위표의 차이가 내 작업에서도 그대로 나타나는지는 확인해야 합니다.
한 사람이 문서와 코딩을 시작하려는 목적이라면 더 작은 모델부터 충분히 쓸 수 있습니다. 공개된 큰 모델을 당장 실행하지 못한다고 로컬 AI를 시작할 수 없는 것은 아닙니다. 내게 필요한 결과가 나오는 규모에서 시작하고, 부족한 이유를 찾았을 때 확장해도 됩니다.