완전 오프라인 로컬 AI 구축: 에어갭 설치와 업데이트 절차

체크포인트², 토크나이저, 런타임, GPU³ 드라이버, 운영체제에 맞는 패키지, 설정 파일, 라이선스와 출처를 한 목록으로 만듭니다. 설치 중 인터넷에서 자동으로 받는 파일이 하나라도 있으면 오프라인에서는 멈춥니다.

각 파일의 해시와 버전을 기록하고 온라인 준비 장비에서 새 저장매체로 복사합니다. 내부 반입 전에 악성코드 검사와 무결성 확인을 거치면 나중에 어떤 파일이 실행됐는지 추적할 수 있습니다.

이미 설치된 캐시에 기대지 않도록 깨끗한 환경에서 시작합니다. 모델 로딩, 첫 요청, 재부팅 뒤 자동 시작, 로그 저장, 장애 복구를 외부 통신 없이 확인합니다.

문서 RAG⁴를 함께 운영한다면 임베딩 모델과 색인 도구도 반입 묶음에 포함합니다. 외부 텔레메트리와 업데이트 확인 기능은 끄고, 실패했을 때 사용자 화면에 내부 경로가 노출되지 않는지도 봅니다.

새 모델이나 런타임을 기존 환경 위에 덮어쓰지 않습니다. 새 버전을 별도 경로에 설치하고 같은 평가 질문과 성능 시험을 통과한 뒤 서비스 포인터만 전환합니다.

문제가 생기면 이전 버전으로 되돌릴 수 있어야 합니다. 체크포인트뿐 아니라 설정, 프롬프트, 색인 버전, 드라이버 조합도 함께 보존해야 같은 상태를 복구할 수 있습니다.

누가 어떤 버전을 반입했고 언제 검증했는지, 어떤 데이터에 접근했는지 남깁니다. 로그에는 원문 전체 대신 요청 식별자와 오류 단계만 남기는 등 기밀 수준에 맞는 보존 규칙을 정합니다.

오프라인이라는 이유만으로 안전한 것은 아닙니다. USB 반입, 관리자 계정, 로컬 도구 실행 권한이 새로운 공격 경로가 될 수 있으므로 최소 권한과 반입 승인 절차를 함께 운영합니다.