크래프톤 Raon-1 mini 로컬 LLM: 한국어 30B MoE를 RTX 5090 32GB로

Raon-1 mini는 크래프톤 AI가 설계하고 처음부터 학습한 30B-A4B MoE 언어 모델이에요. 이름의 30B는 전체 파라미터 수, A4B는 토큰당 활성 파라미터 약 4B를 뜻해요. 모델 카드는 한국어 대화와 에이전트 작업에서 강한 성능을 보인다고 설명해요. 다른 오픈 모델을 다시 학습한 것이 아니라 자체적으로 학습한 모델이라는 점이 특징이에요.

학습 언어는 한국어, 영어, 일본어, 중국어, 스페인어, 프랑스어, 태국어예요. 모델 카드는 한국어 성능이 강하고 영어도 탄탄하다고 적어요. 국내 사용자에게는 한국어가 학습 언어에 들어 있다는 사실 자체가 의미가 있어요. 다만 어느 언어에 학습 비중을 두었는지는 공개되지 않았으니, 한국어 품질은 직접 확인하는 편이 정확해요.

이 모델이 국내 사용자에게 중요한 이유는 한국어를 학습에 포함한 국산 모델이라서예요. 한국어 로컬 LLM⁵을 찾는 사람이라면 RTX 5090 32GB 한 장에서 먼저 시험해 볼 수 있어요.

이 모델은 25개 층 가운데 18개에 Raon Delta Attention⁶을, 7개에 MLA를 써요. 선형 어텐션 계열인 RDA 층은 고정 크기 상태를 유지해서 입력이 길어져도 KV 캐시⁷가 계속 늘지 않아요. KV 캐시를 남기는 MLA 층은 7개뿐이고, 모델 카드는 BF16⁸ 기준 토큰당 약 8KiB라고 적어요.

긴 문맥이 필요한 작업에서 이 구조는 메모리 사용을 예측하기 쉽게 만들어요. 다만 실행기가 이 어텐션 구성을 지원해야 의미가 있어요. llama.cpp나 Ollama, vLLM이 각각 어느 시점에 지원을 추가했는지 확인한 뒤 파일을 고르세요.

이 모델은 Hugging Face 저장소에서 바로 다운로드되지 않아요. 접근 요청 화면에서 이름, 소속, 직함, 국가, 사용 목적을 입력하고 라이선스에 동의해야 해요. 승인 후에 모델 파일과 GGUF⁹·MLX¹⁰ 변환본을 받을 수 있어요. 승인이 자동이 아니므로 처음 시도할 때는 시간 여유를 두세요.

접근 권한이 생기면 용도에 맞는 형식을 골라요. RTX 5090 한 장을 목표로 한다면 NVFP4 파일을, 저장 공간과 호환성을 우선한다면 GGUF를 골라요. MXFP8도 제공돼요. 형식마다 필요한 메모리와 지원 실행기가 달라서, 같은 모델이라도 실행 조건이 같지 않아요.

모델 카드는 이 배포가 최종판이 아니며 사양과 결과가 최종 버전에서 바뀔 수 있다고 명시해요. 벤치마크 표도 미리보기 기준이에요. 몇 주 뒤 같은 이름의 정식판이 나오면 점수와 권장 사양이 달라질 수 있으니, 업무에 넣기 전에 버전과 측정일을 함께 기록해 두세요.

모델 카드의 비교표는 Qwen3.6-35B-A3B, Gemma 4 26B-A4B, Qwen3.8-27B, Muse Glimmer 30B를 함께 놓아요. 같은 표에 있어도 각 모델의 측정 환경이 같은지는 별도로 확인해야 해요. 특히 지식 벤치마크에서 Raon-1 mini가 다른 모델보다 낮은 항목도 있으니, 강점으로 내세운 추론·지시 따르기·에이전트 항목과 함께 봐야 해요.

국내 사용자에게 이 모델이 매력적인 지점은 한국어가 학습 언어에 포함된 모델을 RTX 5090급 장비에서 시도할 수 있다는 데 있어요. 회의록 요약, 사내 문서 분류, 한국어 고객 문의 응답 초안처럼 한국어 입력이 핵심인 작업이라면 기존 Qwen·Gemma 계열과 같은 문장으로 비교해 볼 만해요.

반대로 영어 코드 작성이나 긴 영어 문서 처리만 한다면 이 모델을 먼저 고를 이유가 약해요. 같은 메모리에서 이미 검증된 다른 모델과 비교해 우위가 보일 때만 바꾸는 편이 안전해요. 미리보기 모델을 업무의 기준으로 삼지 말고, 검증용 후보로 두세요.

Raon-1 mini는 아파치 2.0 라이선스로 배포돼요. 상업적 사용과 수정, 재배포가 허용되고 매출 기준은 따로 없어요. 접근 승인은 파일 배포 방식일 뿐 라이선스 조건을 좁히는 것은 아니에요. 다만 아파치 2.0은 저작권 표시와 변경 사항 명시를 요구하니, 제품에 넣을 때 라이선스와 NOTICE를 함께 보관하세요.