실행 프로그램과 확장
최종 업데이트
Strata AMD HIP 가이드: Windows와 Linux에서 Radeon 시작하기
Windows는 드라이버와 번들 런타임으로 시작하고, Linux는 지원 카드에서 HIP 엔진을 준비해요.
Strata의 HIP1 백엔드는 지원되는 AMD Radeon에서 Qwen3.8-Flash-Next를 실행해요. Windows는 최신 Adrenalin 드라이버와 HIP 번들을 사용하고, Linux는 커널 amdgpu 드라이버를 바탕으로 ROCm2과 카드를 위한 엔진을 준비해요. 두 운영체제의 카드 지원과 검증 범위, 이미지·다중 GPU3 제한, 0.1.43 개선 수치를 구분해요.
Strata의 HIP 백엔드는 지원 AMD Radeon GPU로 Qwen3.8-Flash-Next의 입력을 읽고 답변을 생성하는 실행 경로예요. Windows와 Linux 모두 설치기가 모델을 준비하지만 GPU 런타임4을 마련하는 방식과 검증된 조합은 달라요.
Windows에서는 Adrenalin 드라이버와 준비된 HIP 런타임을 사용해요. Linux에서는 커널 드라이버와 ROCm, 카드 아키텍처에 맞춘 엔진 빌드가 필요해요. 현재 Windows 번들의 개별 Radeon 모델 실행 검증은 제한돼 있어, 아래에서 드라이버 준비와 실제 실행 확인을 차례로 다뤄요.
먼저 Radeon 세대와 운영체제를 확인해요
공식 AMD HIP 문서는 Linux에서 RX 7900 XT/XTX(gfx1100), RX 7800 XT/7700 XT(gfx1101), RX 9060 XT(gfx1200), RX 9070/9070 XT와 Radeon AI PRO R9700(gfx1201)을 안내해요. RX 6800/6900 계열(gfx1030)은 커뮤니티 실행 보고가 있고, 유지보수자가 검증한 카드와 상태가 달라요. 내 카드의 정확한 세대 코드는 Strata 문서의 지원표에서 대조해요.
통합 Radeon GPU는 현재 Linux 안내에서 미지원으로 표시돼요. gfx906 Instinct MI50/MI60과 Radeon VII은 별도 선택 빌드, Ryzen AI Max Strix Halo(gfx1151)는 Linux 소스 빌드 안내를 따라야 해요. 한 번의 실행에 AMD와 NVIDIA GPU를 섞는 구성은 지원하지 않아요.
Windows에서는 드라이버와 번들 ZIP을 사용해요
현재 AMD Software: Adrenalin Edition 드라이버를 설치하고 PC를 다시 시작해요. Strata 저장소 폴더에서 START-HERE.bat을 열면 NVIDIA를 사용할 수 있는 카드가 없는 PC에서 setup이 HIP 경로를 고를 수 있어요. NVIDIA와 AMD 카드가 함께 있다면 START-HERE.bat --backend hip으로 HIP를 지정해요. Windows에서는 ROCm이나 HIP SDK, 컴파일러를 별도로 설치하지 않고 릴리스 ZIP의 런타임과 BLAS 라이브러리를 사용해요.
설치 화면이 모델을 받기 전에 HIP 장치를 찾고 번들 엔진을 점검해요. 다만 저장소의 최신 AMD 안내에 따르면 준비된 Windows ZIP은 개별 디스크리트 Radeon에서 모델을 실행한 유지보수자 검증이 아직 없어요. 과거 RX 9070 XT Windows 결과는 사용자가 0.1.34를 PC에서 직접 컴파일한 결과예요. 0.1.40.2 시점에도 준비된 ZIP의 개별 카드 모델 실행 검증은 없었고, 번들 점검은 Ryzen 내장 Radeon에서 장치 탐색과 GEMM에 한정됐어요. 과거 실측을 현재 번들의 검증 결과로 읽지 않도록 구분해요.
첫 질문이 필요하면 브라우저에서 http://127.0.0.1:8080을 열어 Chat에 짧은 문장을 보내요. Windows HIP ZIP에서 모델이 실행되지 않는다면 오류 끝부분과 장치 검사 결과를 먼저 확인해요. 공식 문서는 보고를 위해 engine\strata-device.exe --list-devices, engine\strata-device.exe --selftest를 안내해요. 실행 전 Strata 폴더에서 set PATH=%CD%\engine\rocm\bin;%PATH%를 적용해야 해요.
Linux setup이 ROCm과 카드용 엔진을 준비해요
지원되는 디스크리트 Radeon과 커널 amdgpu 드라이버가 있는 Linux PC에서 저장소 폴더로 이동해 실행해요. NVIDIA 카드를 사용할 수 없으면 HIP가 자동으로 선택되고, 두 종류의 카드가 있으면 옵션으로 지정할 수 있어요.
./setup.sh --backend hip먼저 시스템에 ROCm 7과 hipcc·hipBLAS가 있으면 setup이 이를 사용해요. 없거나 버전이 7.0보다 오래되면 AMD TheRock wheel을 .venv에 내려받아 설치해요. 이 경로는 시스템 전체에 ROCm을 설치하거나 sudo 권한을 요구하지 않지만 약 10GB의 추가 저장 공간이 필요해요. 이어서 C++ 빌드 도구와 git으로 카드 아키텍처에 맞는 엔진을 컴파일하고, 첫 빌드에는 약 10~20분 걸릴 수 있어요.
설치 화면에서 모델과 문맥 설정을 고르면 서버가 시작돼요. 브라우저가 열리면 http://127.0.0.1:8080의 Chat에 짧은 질문을 보내요. 답이 표시되면 모델이 요청을 처리한 거예요. 화면이 열리지 않으면 설치 창에 나온 주소를 브라우저에 입력해요.
0.1.43 측정은 카드와 설정별로 달라요
10월 11일 공개된 0.1.43 릴리스는 R9700의 캐시 크기와 양자화5를 바꿔 측정했어요. 캐시를 작게 제한한 구성에서 개선 폭이 컸고, 전체 32GB 캐시 구성은 모델별로 변화가 달랐어요.
| GPU 캐시 설정 | 양자화·측정 | 이전 빌드 대비 |
|---|---|---|
| R9700 32GB · 16GB급 캐시 | IQ3_XXS · 디코드 | +21~38% |
| R9700 32GB · 16GB급 캐시 | IQ3_XXS · 4K / 32K 입력 | +7.5% / +15.6% |
| R9700 32GB · 32GB 캐시 | Q2_0 / IQ3_XXS · 디코드 | +2~10% |
| R9700 32GB · 32GB 캐시 | IQ3_S · 디코드 | +6~14% |
측정 GPU는 물리 VRAM6 32GB인 R9700이에요. ‘16GB급 캐시’는 이 카드의 전문가 캐시를 16GB 카드 규모로 제한한 설정이에요. 표에는 RX 9070 XT와 구형 RDNA 카드 측정이 포함되지 않았어요.
R9700 수치는 이전 빌드와 번갈아 실행한 5쌍의 중앙값이에요. 모델·캐시 설정별 결과와 전체 비교 조건은 v0.1.43 릴리스 노트, 카드별 구성은 AMD HIP 측정 문서에서 볼 수 있어요.
이미지·다중 GPU는 Linux의 지원 범위를 확인해요
Linux AMD에서 이미지 입력을 켜면 기본 image encoder는 CPU7에서 돌아요. 사진이 포함된 질문을 보내면 CPU의 이미지 처리까지 마친 뒤 답변을 생성하므로, 텍스트 질문과 첫 응답 대기 시간을 따로 기록해요. AMD setup의 자동 보정(calibration)은 아직 제공되지 않아요. Linux Monitor에서는 sysfs로 카드 부하·VRAM·온도·전력을 확인할 수 있어요.
Linux는 --gpus 1,0처럼 여러 Radeon을 지정해 모델 레이어를 나눌 수 있어요. 한 장이 전문가 전체를 담을 수 있다면 두 번째 카드를 더해도 이득이 없는 경우가 있고, R9700과 RX 9070 XT를 함께 쓴 공개 시험에서는 단일 R9700보다 일부 작업이 느렸어요. 모델이 한 장에 담기지 않아 전문가를 여러 카드에 나눠야 할 때 분할을 비교해요.
이미지를 다루는 작업은 같은 사진으로 첫 응답 대기 시간을 기록하고, 다중 GPU는 같은 모델·문맥·질문으로 한 장 구성과 비교해요. Linux Monitor의 부하·메모리 기록을 함께 남기면 CPU 처리와 GPU 분할 중 어디에서 시간이 늘어나는지 찾기 쉬워요.
용어 각주
HIP — GPU용 C++ 코드를 여러 플랫폼으로 옮기는 데 쓰는 API와 실행 환경입니다. CUDA 코드 이식을 돕습니다.
본문으로 돌아가기ROCm — AMD GPU에서 AI와 고성능 계산을 실행하는 소프트웨어 플랫폼입니다. 지원 여부는 GPU 모델뿐 아니라 운영체제·드라이버·프레임워크 버전의 조합으로 확인합니다.
본문으로 돌아가기GPU — 많은 계산을 병렬로 처리하는 프로세서입니다. AI 모델 실행에서는 모델 계산을 맡습니다.
본문으로 돌아가기런타임 — 프로그램이 실행될 때 필요한 기능을 제공하는 소프트웨어 환경입니다. 로컬 AI에서는 모델을 실행하는 엔진을 가리키기도 합니다.
본문으로 돌아가기양자화 — 모델의 가중치나 계산값을 더 적은 비트로 표현해 저장 공간과 메모리 사용량을 줄이는 방법입니다. 표현 단계가 거칠어져 정확도에도 영향을 줄 수 있습니다.
본문으로 돌아가기VRAM — 그래픽카드의 GPU가 사용하는 메모리입니다. 모델 가중치와 계산 중간값을 저장합니다.
본문으로 돌아가기CPU — 운영체제와 일반 프로그램 명령을 실행하고, AI에서는 전처리·데이터 이동 등 범용 연산을 맡는 중앙 처리 장치입니다.
본문으로 돌아가기
자주 묻는 질문
- 이 글에서 가장 먼저 확인할 것은 무엇인가요?
- Strata의 HIP 백엔드는 지원되는 AMD Radeon에서 Qwen3.8-Flash-Next를 실행해요. Windows는 최신 Adrenalin 드라이버와 HIP 번들을 사용하고, Linux는 커널 amdgpu 드라이버를 바탕으로 ROCm과 카드를 위한 엔진을 준비해요. 두 운영체제의 카드 지원과 검증 범위, 이미지·다중 GPU 제한, 0.1.43 개선 수치를 구분해요.
- 필요한 메모리는 어느 정도인가요?
- 측정 GPU는 물리 VRAM 32GB인 R9700이에요. ‘16GB급 캐시’는 이 카드의 전문가 캐시를 16GB 카드 규모로 제한한 설정이에요. 표에는 RX 9070 XT와 구형 RDNA 카드 측정이 포함되지 않았어요.