Hermes Agent 설치와 로컬 모델 연결: 첫 작업부터 권한 확인까지

Hermes Agent와 Hermes 모델은 별도 구성요소입니다. 코드 폴더를 읽히려면 Agent 프로그램과 연결할 모델을 각각 준비해야 하므로, 먼저 무엇을 설치할지 구분합니다.

Hermes 모델은 입력에서 다음 토큰⁴을 생성하는 가중치입니다. Hermes Agent는 모델에 지시와 대화 이력을 보내고 도구 호출을 관리하는 프로그램입니다. 모델만 실행해도 답변은 받을 수 있지만, 로컬 파일이나 셸에 접근할 수 있는 것은 아닙니다. Agent를 설치해도 사용할 모델이 자동으로 함께 설치되지는 않습니다.

프로젝트 폴더의 오류를 고치려면 먼저 모델의 수정 제안만 필요한지, 파일을 읽고 수정하는 작업까지 맡길지 정하세요. 이 선택에 따라 설치할 구성요소와 데이터 경로, 허용할 권한이 달라집니다.

프로젝트 폴더의 오류 원인을 찾는 상황을 가정해 보겠습니다. 먼저 Agent가 선택한 모델 제공자와 대화해 짧은 답변을 돌려주는지 확인합니다. 이 단계는 모델과 endpoint의 기본 연결만 시험합니다.

그다음 읽기만 허용한 임시 작업 폴더에서 파일 목록을 요청합니다. 예상한 목록이 돌아오면 Agent가 도구를 호출하고 실행 결과를 받았다는 뜻입니다. 여기까지 확인해야 ‘실행 후 답변했다’와 ‘이 작업 경로가 동작한다’를 구분할 수 있습니다.

처음부터 중요한 저장소나 인증 정보가 든 폴더를 쓰지 말고, 파일 목록이 맞는지 직접 대조하세요. 실패하면 파일 수정 권한을 더하기 전에 endpoint, 모델 응답 형식, 도구 설정 가운데 어느 단계에서 멈췄는지 찾습니다.

macOS·Linux·WSL2에서 CLI⁵를 설치하려면 공식 설치 안내의 명령을 실행합니다. Windows는 PowerShell용 명령을 사용하며, macOS 데스크톱 패키지는 Apple Silicon만 지원합니다. 설치 후 터미널을 다시 열고 hermes를 실행합니다. 모델 제공자는 hermes model, 도구 설정은 hermes tools 명령으로 고릅니다. 먼저 짧은 질문에 답하는지 확인하고, 메신저나 MCP는 필요한 작업이 생겼을 때 연결합니다.

Hermes Desktop에서 모델까지 내 컴퓨터에서 관리하려면 Local Models 경로를 선택할 수 있습니다. 공식 안내에 따르면 데스크톱에서는 Canary 빌드에 제공되며, 다른 빌드에서는 --local 실행 옵션이 필요할 수 있습니다.

관리형 경로는 llama.cpp 런타임을 준비하고, 모델을 내려받으며, 장비의 메모리에 맞는지 확인합니다. 이미 Ollama, llama.cpp, MLX⁶ 서버를 실행 중이라면 사용자 지정 endpoint에 서버 주소와 모델 ID를 입력해 연결할 수도 있습니다.

‘OpenAI 호환’은 주로 요청 형식을 설명합니다. 모델이 도구 호출을 만들고, 서버가 형식을 보존하며, Hermes가 이를 실행하는지는 각각 별도 확인이 필요합니다. 먼저 서버의 실제 주소와 API⁷ 경로를 입력해 모델 목록과 짧은 대화를 확인한 뒤, 읽기 전용 도구를 호출해 결과를 대조하세요.

Hermes는 ~/.hermes/memories/ 아래의 MEMORY.md와 USER.md를 기본 영속 메모리로 사용합니다. 세션을 시작할 때 두 파일의 내용이 시스템 프롬프트에 들어가며, 각 파일에는 문자 수 제한이 있습니다.

이 파일은 모든 대화 원문을 무제한 저장하거나 자동으로 벡터 검색하는 저장소가 아닙니다. 이전 세션의 말을 찾으려면 별도의 세션 검색 기능이 무엇을 저장하고 어떻게 검색하는지 확인하세요. 메모리 파일을 수정해도 이미 시작한 세션의 입력은 바로 바뀌지 않을 수 있습니다.

여러 Agent 프로세스가 같은 Hermes 홈의 메모리를 동시에 수정하지 않도록 하세요. 외부 메모리 제공자를 연결하면 추가 서비스에 데이터나 모델 요청이 전달될 수 있으므로, 저장 위치와 보존 조건을 따로 확인합니다.

Hermes Agent에는 터미널, 파일 작업, 브라우저, 스킬, MCP 서버를 연결할 수 있습니다. 도구가 목록에 있다는 사실만으로 접근 범위가 제한되는 것은 아닙니다.

MCP 서버가 실행할 명령과 패키지 출처를 확인하고, 필요하지 않은 쓰기·삭제 기능은 켜지 마세요. 스킬은 코드나 명령, 외부 연결을 포함할 수 있으므로 설치한 곳과 실제 동작을 살펴봅니다. execute_code 제한이나 위험 명령 확인 기능도 운영체제 수준의 격리를 대신하지 않습니다.

코드 검토라면 저장소 읽기부터 시작하고, 파일 수정은 대상과 변경 범위를 보여 준 뒤 승인받도록 설정하세요. 모델이 로컬에서 돌아도 Agent의 파일·네트워크 권한은 별도로 적용됩니다.

Agent가 내 PC에서 실행되어도 원격 모델을 선택하면 프롬프트는 모델 제공자로 전송됩니다. 로컬 모델을 사용해도 검색, 브라우저, MCP, 메신저는 다른 서버와 통신할 수 있습니다. 기능마다 프롬프트, 파일, 도구 결과가 어디로 가는지 확인하세요.

API 키를 설정 파일이나 명령 기록에 남기지 말고 필요한 권한만 부여하세요. 다른 기기에서 모델 서버에 접속해야 한다면 인증과 네트워크 범위를 확인하고, 인터넷에 직접 공개하지 않습니다.

Hermes의 터미널 승인 기능은 운영체제 수준 격리와 다릅니다. 저장소 일부를 읽히는 것부터 시작하고, 파일 수정이나 외부 전송은 실행 전에 결과를 검토하는 단계를 두세요.