실행 프로그램과 확장
최종 업데이트
XeStrata란? Intel·AMD·NVIDIA에서 Qwen3.8을 실행하려면?
XeStrata는 GPU 제조사가 달라도 Qwen3.8-Flash-Next를 로컬에서 실행할 수 있게 해요.
XeStrata는 Ubuntu 26.04나 Fedora 44의 x86-64 Linux PC에서 Intel Arc, RDNA2 이상 Radeon, Pascal 이상 NVIDIA GPU1를 사용하는 실행 프로그램2이에요. 배포판에 맞는 패키지를 설치한 뒤 xestrata --setup을 실행하면 GPU와 RAM3을 확인하고 모델·문맥 설정을 물은 다음 웹 대화 화면을 열어요. Qwen3.8-Flash-Next는 모델 파일만 약 60~110GB, 추가 MTP4 파일은 약 6GB가 필요하므로 여유 RAM과 NVMe5 저장 공간을 먼저 확인해야 해요.
XeStrata는 Qwen3.8-Flash-Next에 질문을 보내고 답변을 받는 Linux용 로컬 실행 프로그램이에요. Intel Arc, AMD Radeon, NVIDIA GPU 가운데 지원되는 카드를 골라 설치하면 브라우저 대화 화면에서 입력한 내용과 생성된 답변이 내 PC 안에서 오가요.
서버용 크기의 모델을 개인 PC에서 시험하려는 경우 쓸 수 있어요. 설치 전에 GPU 이름뿐 아니라 선택할 모델 파일의 RAM과 저장 용량, Linux 배포판을 함께 맞추면 첫 실행에서 다운로드나 메모리 부족으로 멈출 가능성을 줄일 수 있어요.
XeStrata는 모델을 GPU와 RAM에서 실행해요
XeStrata는 Qwen3.8 같은 언어 모델을 Linux PC에서 실행해 프롬프트6에 대한 답을 받는 로컬 추론 도구예요. 실행할 때 GPU가 모델 계산 일부를 맡고 선택되지 않은 전문가 가중치는 RAM에서 가져와요. 따라서 VRAM7뿐 아니라 선택한 모델 파일과 문맥 길이에 맞는 RAM도 확인해요.
처음 고를 항목은 GPU와 모델 파일이에요. XeStrata는 VRAM 12GB 이상을 권장하지만 더 적은 용량에서도 느리게 실행될 수 있어요. Qwen3.8-Flash-Next는 전문가 가중치를 둘 RAM도 필요해요. IQ2_XS는 파일 약 68GB·RAM 약 48GB, IQ3_XXS는 파일 약 76GB·RAM 약 60GB가 기준이에요.
설치 전에 Linux와 GPU 경로를 맞춰요
정식 바이너리 패키지는 Ubuntu 26.04와 Fedora 44용이에요. Windows는 지원하지 않고 WSL 2는 작동할 수도 있다고 안내돼 있어요. 다른 Linux 배포판은 소스 설치를 따라야 해요. x86-64 CPU8에 AVX2가 필요하고, 개별 그래픽카드라면 BIOS에서 Above 4G Decoding과 Re-Size BAR를 켜고 CSM을 끄도록 안내돼 있어요.
Intel은 Arc A·B 시리즈, AMD는 RDNA2 이상, NVIDIA는 Pascal 이상이 대상이에요. AMD는 GPU 아키텍처와 배포판의 rocBLAS 지원이 함께 맞아야 해요. RX 6700·RX 7600은 Fedora 44에만, RX 6600은 양쪽 배포판 모두 지원 목록에 없어요. 설치 후 xestrata --check에서 확인한 카드와 gfx 코드를 이 표와 대조하세요.
패키지를 설치하고 첫 답변을 받아요
XeStrata xe0.1.43.1 릴리스에서 GPU와 배포판에 맞는 패키지와 SHA256SUMS를 받아요. Ubuntu 26.04와 Fedora 44 명령은 아래에 나눠뒀으니 GPU 세대에 맞는 CUDA9 변형을 고르세요. Intel·AMD는 CUDA GPU 없이도 실행되지만 배포 패키지 이름에 CUDA 변형이 붙어 있어요. NVIDIA Pascal·Volta는 Ubuntu CUDA 12.4 패키지가 필요하고 Fedora용 바이너리 패키지는 없어 소스 설치 대상이에요.
sha256sum -c SHA256SUMS --ignore-missingsudo apt install ./xestrata-contrib-cuda13.1_0.1.43-2_amd64.debsudo dnf install ./xestrata-contrib-cuda13.4-0.1.43-2.x86_64.rpmsudo apt install ./xestrata-contrib-cuda12.4_0.1.43-2_amd64.deb설치가 끝나면 xestrata --setup을 실행해요. 프로그램이 GPU·RAM·CPU를 확인하고 모델, 양자화10 파일, 문맥 길이를 물으면 권장값을 선택하거나 사용할 메모리에 맞는 파일과 짧은 문맥을 고르세요. Qwen3.8-Flash-Next IQ2_XS의 모델 파일은 약 68GB이고 MTP 파일도 별도로 필요하므로 NVMe SSD11에 여유를 남겨두세요. 설치 후 xestrata --check를 실행하면 감지된 GPU와 AMD gfx 코드를 확인할 수 있어요.
다운로드와 첫 GPU 코드 준비가 끝나면 기본 브라우저에서 http://127.0.0.1:8095가 열려요. 짧은 질문을 보내 답변이 돌아오면 첫 실행이 완료된 거예요. 최초 구동은 모델 자료를 RAM으로 읽고 GPU 코드를 준비하므로 PC가 1~3분 느려질 수 있어요. 준비가 끝날 때까지 터미널을 열어 두세요.
xestrata --setup
첫 실행이 멈추면 장치와 설정 로그부터 확인해요
xestrata --setup이 GPU 라이브러리나 render 그룹을 찾지 못했다고 멈추면 터미널에 표시된 설치 명령을 먼저 실행한 뒤 다시 xestrata --setup을 입력해요. AMD 카드라면 xestrata --check 결과의 gfx 코드와 현재 배포판의 rocBLAS 표가 일치하는지 확인해요. 체크섬 검증이 실패했다면 패키지 선택이 맞는지, 파일이 완전히 내려받아졌는지 릴리스의 SHA256SUMS와 대조하세요.
모델을 내려받았는데 브라우저가 응답하지 않으면 터미널의 오류와 ~/.local/state/xestrata 로그에서 실행 상태를 확인하고, 주소가 http://127.0.0.1:8095인지 살펴봐요. RAM 부족 메시지가 나오면 설정을 다시 열어 더 작은 양자화 파일이나 짧은 문맥을 고릅니다. 평소 쓰는 앱을 켠 상태에서도 첫 답변이 돌아오면 현재 PC에서 쓸 여유가 있는 거예요. 계속 메모리 부족이 나면 더 많은 RAM이 있는 PC를 사용하거나 모델 선택을 낮춰야 해요.
용어 각주
GPU — 많은 계산을 병렬로 처리하는 프로세서입니다. AI 모델 실행에서는 모델 계산을 맡습니다.
본문으로 돌아가기런타임 — 프로그램이 실행될 때 필요한 기능을 제공하는 소프트웨어 환경입니다. 로컬 AI에서는 모델을 실행하는 엔진을 가리키기도 합니다.
본문으로 돌아가기시스템 RAM — 프로그램이 실행되는 동안 데이터를 임시로 보관하는 시스템 메모리입니다.
본문으로 돌아가기MTP — 한 번에 여러 미래 토큰을 예측하도록 학습하는 목표 또는 이를 수행하는 모델 구성입니다. 추측 디코딩에서는 이 예측을 후보 토큰으로 제안할 수 있습니다.
본문으로 돌아가기NVMe — SSD가 PCI Express를 통해 통신할 때 사용하는 저장 장치용 프로토콜입니다.
본문으로 돌아가기프롬프트 — 모델에 보내는 입력문입니다. 생성 모델에서는 만들 결과를 설명하는 문장이 되어 출력의 구성과 내용을 크게 좌우합니다.
본문으로 돌아가기VRAM — 그래픽카드의 GPU가 사용하는 메모리입니다. 모델 가중치와 계산 중간값을 저장합니다.
본문으로 돌아가기CPU — 운영체제와 일반 프로그램 명령을 실행하고, AI에서는 전처리·데이터 이동 등 범용 연산을 맡는 중앙 처리 장치입니다.
본문으로 돌아가기CUDA — NVIDIA GPU에서 범용 계산을 실행하기 위한 소프트웨어 플랫폼입니다.
본문으로 돌아가기양자화 — 모델의 가중치나 계산값을 더 적은 비트로 표현해 저장 공간과 메모리 사용량을 줄이는 방법입니다. 표현 단계가 거칠어져 정확도에도 영향을 줄 수 있습니다.
본문으로 돌아가기SSD — 플래시 메모리를 사용하는 데이터 저장 장치입니다. 전원이 꺼져도 데이터가 보존됩니다.
본문으로 돌아가기
자주 묻는 질문
- 이 글에서 가장 먼저 확인할 것은 무엇인가요?
- XeStrata는 Ubuntu 26.04나 Fedora 44의 x86-64 Linux PC에서 Intel Arc, RDNA2 이상 Radeon, Pascal 이상 NVIDIA GPU를 사용하는 실행 프로그램이에요. 배포판에 맞는 패키지를 설치한 뒤 `xestrata --setup`을 실행하면 GPU와 RAM을 확인하고 모델·문맥 설정을 물은 다음 웹 대화 화면을 열어요. Qwen3.8-Flash-Next는 모델 파일만 약 60~110GB, 추가 MTP 파일은 약 6GB가 필요하므로 여유 RAM과 NVMe 저장 공간을 먼저 확인해야 해요.
- 필요한 메모리는 어느 정도인가요?
- 처음 고를 항목은 GPU와 모델 파일이에요. XeStrata는 VRAM 12GB 이상을 권장하지만 더 적은 용량에서도 느리게 실행될 수 있어요. Qwen3.8-Flash-Next는 전문가 가중치를 둘 RAM도 필요해요. IQ2_XS는 파일 약 68GB·RAM 약 48GB, IQ3_XXS는 파일 약 76GB·RAM 약 60GB가 기준이에요.
- 선택하지 않는 편이 좋은 경우는 언제인가요?
- 처음 고를 항목은 GPU와 모델 파일이에요. XeStrata는 VRAM 12GB 이상을 권장하지만 더 적은 용량에서도 느리게 실행될 수 있어요. Qwen3.8-Flash-Next는 전문가 가중치를 둘 RAM도 필요해요. IQ2_XS는 파일 약 68GB·RAM 약 48GB, IQ3_XXS는 파일 약 76GB·RAM 약 60GB가 기준이에요.