실행 프로그램과 확장
최종 업데이트
Strata 문제 해결: 다운로드·첫 실행·응답 지연 점검
오류 문구와 멈춘 단계를 확인하면 다음 점검 위치를 좁힐 수 있어요.
Strata는 시작할 때 엔진과 모델을 준비하고 RAM1·GPU2에 모델을 적재한 뒤 로컬 서버를 열어요. 다운로드가 끊기면 같은 업데이트 파일을 다시 실행해 이어받고, 첫 적재 중 PC가 느려지면 진행 창을 열어둔 채 기다려요. 저RAM resident와 mmap은 전문가를 공급하는 방식이 다르고, PLE3는 SSD4에서 읽는 별도 데이터예요. 0.1.43에서는 Windows GGUF-mmap 저RAM의 NTFS 병렬 읽기 문제도 수정됐어요.
Strata는 시작 파일이 엔진과 모델을 준비하고, 모델을 메모리에 올린 다음 로컬 서버를 열어요. 오류가 생기면 마지막으로 정상 표시된 단계와 화면·로그의 첫 오류 문구를 확인해요. 다운로드 중인지, GPU 초기화 중인지, 모델 적재 중인지, 브라우저 연결 단계인지에 따라 확인할 곳이 달라요.
OS·GPU 모델·드라이버·Strata 버전을 함께 기록해요. AMD Windows는 Adrenalin 드라이버가 필요하고, 현재 HIP5 ZIP의 개별 디스크리트 Radeon 모델 실행 검증은 제한돼 있어요. 사용 중인 OS의 설치 안내와 AMD HIP 문서를 대조하면 지원 여부와 점검 명령을 찾을 수 있어요.
다운로드 중단과 첫 모델 적재를 나눠 확인해요
첫 설치의 모델 다운로드가 멈추면 Windows는 START-HERE.bat, Linux는 같은 Strata 폴더의 ./setup.sh를 다시 실행해요. 이미 받은 파일부터 이어서 진행해요. 기존 브랜치 Git 설치를 갱신하는 작업이었다면 UPDATE.bat 또는 ./update.sh를 다시 실행하고, 완료 뒤 시작 파일로 모델을 켜요. 버전 태그에 고정된 설치는 새 릴리스 ZIP으로 옮겨야 해요. 다운로드가 계속 실패하면 디스크 여유와 네트워크 연결을 확인해요.
첫 모델 적재 중에는 Strata가 모델 전문가를 RAM에 올리고 GPU용 공간을 준비해요. 공식 설치 안내는 첫 실행에서 PC가 1~3분 느려지거나 반응하지 않는 듯 보일 수 있다고 설명해요. 실행 창에 작업 진행 정보가 바뀌는 동안 닫지 말고 기다려요. 짧은 시간 동안 화면이 그대로인 것과 오류 로그가 반복되는 상태를 구분해요.
10분 이상 진행이 없고 오류가 이어지면 PC를 다시 시작하고 브라우저·게임·편집기처럼 메모리를 쓰는 앱을 닫아요. 시작 설정에서 더 작은 모델이나 짧은 문맥을 골라 다시 실행해요. 오류가 특정 GPU 초기화 단계에 나타났다면 드라이버 버전과 Strata 로그 마지막 부분을 함께 기록해요.
느린 응답에서는 resident와 mmap, PLE를 구분해요
저RAM 구성에서 resident 방식은 GPU에 올라가지 않은 전문가를 시작할 때 RAM에 복사해 고정해요. 남은 전문가가 RAM에 들어가면 응답 중 전문가 가중치를 SSD에서 읽지 않아요. RAM이 부족해 resident 배치가 안 되면 setup이 mmap 방식으로 전환할 수 있어요. mmap은 전문가 파일을 매핑하고 OS 파일 캐시를 거쳐 데이터를 공급하므로 캐시에 없는 부분을 읽는 동안 저장장치 접근이 생겨요.
Monitor에서 RAM 여유와 디스크 읽기를 함께 봐요. GPU에 없는 전문가를 많이 읽고 RAM이 부족한 상황이라면 더 작은 양자화6 모델, 짧은 문맥, 적은 동시 실행 앱을 차례로 시험해요. 저RAM 모드는 메모리 적재 방식을 바꾸므로 SSD에서 전문가를 자주 읽는 mmap 구성은 작은 VRAM7에서 느려질 수 있어요.
PLE(per-layer embeddings)는 모델의 층마다 쓰는 임베딩 표예요. SSD에서 읽는 자료라 resident 모드에서도 파일 접근이 남을 수 있어요. Monitor와 로그에 RAM 여유와 디스크 읽기 시점을 기록하고, 전문가를 가져오는 읽기인지 PLE 읽기인지 확인해요.
0.1.43에서 Windows GGUF-mmap 읽기를 확인해요
Windows 저메모리 구성에서 GGUF8 shard를 mmap한 채 NTFS 비버퍼 읽기를 사용하면 전문가 파일 읽기가 직렬로 처리될 수 있었어요. Strata 0.1.43은 파일 tier가 비버퍼 읽기를 시작할 때 shard의 매핑 뷰를 닫아 읽기를 다시 병렬화해요. 이전에 GGUF-mmap 응답이 유난히 느렸다면 실행 로그에서 0.1.43 엔진을 쓰는지 확인하고 같은 파일·모델·입력으로 비교해요.
좌우로 밀어 표 전체를 비교하세요.
| RAM 전문가 | 이야기 생성 디코드 (tok/s) | 코드 디코드 (tok/s) | 짧은 입력 뒤 디코드 (tok/s) |
|---|---|---|---|
| 22 GiB | 18.9 → 25.5 tok/s | 13.5 → 21.1 tok/s | 13.3 → 18.2 tok/s |
| 12 GiB | 9.6 → 16.0 tok/s | 6.5 → 11.6 tok/s | 4.6 → 8.5 tok/s |
측정 조건: RTX 5070·Ryzen 5 7600·RAM 64GB·Windows·IQ3_XXS GGUF. 전문가를 RAM에 22GiB 또는 12GiB 둔 상태에서 구버전과 0.1.43을 번갈아 실행한 5쌍의 중앙값이에요.
GPU 인식과 8080 포트를 확인해요
GPU를 찾지 못했다는 오류가 나오면 운영체제가 카드를 보는지 먼저 확인해요. Windows AMD는 AMD Software: Adrenalin Edition에서 드라이버를 업데이트하고 재부팅해요. Linux AMD는 amdgpu 드라이버와 설치 로그의 HIP 장치 검색 결과를 확인해요. NVIDIA는 터미널에서 nvidia-smi를 실행해 GPU 이름과 드라이버가 표시되는지 봐요.
port 8080 is already in use가 표시되면 Strata가 다른 창에서 이미 실행 중인지 확인해요. 실행 중이라면 기존 서버 주소 http://127.0.0.1:8080을 브라우저에서 열면 돼요. 다른 프로그램이 포트를 사용한다면 공식 설치 옵션에 따라 --port 8081처럼 다른 포트를 지정하고 연결 앱의 주소도 같은 포트로 맞춰요.
문제가 계속되면 OS·GPU와 드라이버·Strata 버전, 오류가 난 단계, 로그 마지막 줄을 기록해 공식 문제 해결 안내와 비교해요. Windows 보호 기능을 끄거나 보안 경고를 무시하는 방식은 문제 원인을 찾지 못한 채 PC를 위험에 노출할 수 있어요. 로그에 나온 지원 범위와 메모리·드라이버·포트부터 점검해요.
용어 각주
시스템 RAM — 프로그램이 실행되는 동안 데이터를 임시로 보관하는 시스템 메모리입니다.
본문으로 돌아가기GPU — 많은 계산을 병렬로 처리하는 프로세서입니다. AI 모델 실행에서는 모델 계산을 맡습니다.
본문으로 돌아가기PLE 임베딩 테이블 — Per-Layer Embedding의 약자로, 모델의 특정 층에 임베딩 정보를 더하는 구조입니다. Qwen Flash-Next 계열은 n-그램 테이블을 사용하며, 지원되는 실행 경로에서는 이 테이블을 RAM이나 SSD로 오프로딩할 수 있습니다.
본문으로 돌아가기SSD — 플래시 메모리를 사용하는 데이터 저장 장치입니다. 전원이 꺼져도 데이터가 보존됩니다.
본문으로 돌아가기HIP — GPU용 C++ 코드를 여러 플랫폼으로 옮기는 데 쓰는 API와 실행 환경입니다. CUDA 코드 이식을 돕습니다.
본문으로 돌아가기양자화 — 모델의 가중치나 계산값을 더 적은 비트로 표현해 저장 공간과 메모리 사용량을 줄이는 방법입니다. 표현 단계가 거칠어져 정확도에도 영향을 줄 수 있습니다.
본문으로 돌아가기VRAM — 그래픽카드의 GPU가 사용하는 메모리입니다. 모델 가중치와 계산 중간값을 저장합니다.
본문으로 돌아가기GGUF — 모델 정보를 담는 파일 형식으로 llama.cpp 계열 도구에서 널리 사용됩니다.
본문으로 돌아가기
자주 묻는 질문
- 이 글에서 가장 먼저 확인할 것은 무엇인가요?
- Strata는 시작할 때 엔진과 모델을 준비하고 RAM·GPU에 모델을 적재한 뒤 로컬 서버를 열어요. 다운로드가 끊기면 같은 업데이트 파일을 다시 실행해 이어받고, 첫 적재 중 PC가 느려지면 진행 창을 열어둔 채 기다려요. 저RAM resident와 mmap은 전문가를 공급하는 방식이 다르고, PLE는 SSD에서 읽는 별도 데이터예요. 0.1.43에서는 Windows GGUF-mmap 저RAM의 NTFS 병렬 읽기 문제도 수정됐어요.
- 필요한 메모리는 어느 정도인가요?
- Windows 저메모리 구성에서 GGUF shard를 mmap한 채 NTFS 비버퍼 읽기를 사용하면 전문가 파일 읽기가 직렬로 처리될 수 있었어요. Strata 0.1.43은 파일 tier가 비버퍼 읽기를 시작할 때 shard의 매핑 뷰를 닫아 읽기를 다시 병렬화해요. 이전에 GGUF-mmap 응답이 유난히 느렸다면 실행 로그에서 0.1.43 엔진을 쓰는지 확인하고 같은 파일·모델·입력으로 비교해요.