맥 미니 24GB와 32GB, 로컬 AI 때문에 더 써야 할까

맥의 통합 메모리에는 모델 가중치 외에도 대화 문맥을 위한 KV 캐시와 계산 중 임시 공간이 필요해요. 운영체제, 브라우저, 문서 편집기도 같은 메모리를 사용하므로 모델 다운로드 화면의 파일 크기만 보고 남는 용량을 계산할 수 없어요.

설명을 위해 가중치 12GB, 캐시와 작업 공간 3GB, 시스템과 앱 6GB를 쓴다고 가정해볼게요. 합계는 21GB예요. 같은 조건에서 24GB는 산술상 3GB, 32GB는 11GB가 남아요. 이 여유가 긴 문서와 후속 질문을 이어갈 때 쓰이는 공간이에요. 실제로 필요한 용량은 내 모델을 올린 뒤 평소 앱과 입력으로 확인하세요.

제안서에서 필요한 문단만 골라 모델에 넣고 표현을 고치며, 답을 기다리는 동안 자료 검색과 편집이 원활하다면 24GB에서 해결해야 할 메모리 문제가 없는 거예요. 짧은 입력과 평소 앱 조합으로 이 흐름이 잘 끝나는지 확인해요.

문서 요약에서 금액이나 조건을 틀리면, 모델에 보낸 원문부터 살펴보세요. PDF의 표가 제대로 추출됐는지, 필요한 예외 조항이 입력에 들어 있는지 확인해요. 원문을 정확히 전달했는데도 같은 실수가 반복될 때 더 큰 모델이나 높은 정밀도를 시험하면 돼요. 그 후보를 고른 다음에 필요한 메모리를 계산하세요.

‘8B 모델’이라는 매개변수 수만으로 24GB에서 충분한지 정할 수는 없어요. 양자화³ 파일, 실행 프로그램⁴, 문맥 길이가 함께 메모리에 영향을 줍니다. 현재 문단 편집은 원활하고 긴 문서 전체를 다룰 계획이 없다면 24GB를 선택할 수 있어요.

제안서 앞부분의 요구 조건과 뒤쪽 견적을 한 번에 비교하고 질문을 이어가면, 입력과 유지해야 할 대화 상태가 커질 수 있어요. 모델만 켰을 때는 괜찮지만 문서를 넣은 뒤 다른 앱을 닫아야 한다면, 32GB에서 같은 작업과 앱 조합이 원활해지는지가 추가 용량의 가치를 보여 줍니다.

얻으려는 것은 8GB라는 숫자보다 브라우저를 닫았다 다시 열거나 모델을 내렸다 올리는 일을 줄이는 여유예요. 두 모델을 번갈아 쓴다면 함께 메모리에 유지할 필요가 있는지 확인하고, 가중치뿐 아니라 각 모델의 KV 캐시와 실행 공간도 포함해요. 32GB라는 옵션만으로 두 모델의 동시 실행이 보장되지는 않아요.

필요한 공간이 32GB의 사용 가능량도 넘으면 중간 옵션을 사도 같은 제약을 겪을 수 있어요. 작은 양자화 파일로 원하는 결과가 나오는지, 문서 전체 대신 필요한 범위만 넣어도 되는지 먼저 확인합니다. 메모리가 충분한데 답변 생성만 느리다면 같은 칩의 메모리를 늘리는 것은 연산 성능이나 메모리 대역폭⁵을 같은 비율로 올리는 방법이 아니에요.

현재 맥에서 평소 앱을 켠 상태, 모델을 올린 상태, 제안서를 넣어 답을 생성하는 상태를 차례로 기록해요. 문서 길이와 모델 파일명도 남기면 다른 설정과 비교할 기준이 됩니다.

활성 상태 보기의 메모리 탭에서 메모리 압력, 스왑과 앱 반응을 함께 살펴보세요. 압력이 높아질 때마다 창 전환이 멈추거나 모델이 재로딩되면 여유가 부족한 상태예요. 사용량 그래프가 높아도 앱 전환과 답변이 매끄럽다면 지금 작업은 그대로 이어갈 수 있어요. 시험한 문서 길이와 함께 켠 앱을 적어두면 구매 후보와 비교하기 쉬워요.

모델 실행 순간 오류가 나면 런타임이 얼마를 할당하려 했는지와 문맥 한도를 확인해요. 물리 메모리가 남아 보여도 특정 할당은 실패할 수 있으므로 오류 메시지와 사용량 그래프를 따로 읽고, 설정을 하나씩 바꿔 원인을 좁힙니다.

오늘 24GB 대신 32GB를 고르는 추가 금액과, 나중에 용량 부족으로 본체를 바꿀 때 드는 금액은 다른 비용이에요. 미래 교체 비용을 가늠할 때 기존 기기 판매액은 확정할 수 없으므로, 지금 결제할 금액과 불확실한 회수액을 따로 계산합니다.

현재 구성에서 제안서 일부를 편집하고 자료를 검색하는 일이 편하다면 24GB를 고르고 예산을 남길 수 있어요. 긴 입력 때문에 매번 앱을 닫아야 하고 같은 작업이 32GB에서는 원활하다는 근거가 있다면 추가 메모리는 반복되는 불편을 줄이는 비용이에요. 두 구성 모두에서 모델이 감당되지 않으면 32GB만으로 판단을 끝낼 수 없어요.

구매 직전에는 칩, 통합 메모리, SSD⁶ 용량이 비교한 구성과 일치하는지 확인해요. SSD가 큰 상품을 메모리 옵션이 큰 상품으로 혼동하거나 다른 칩의 가격 차이를 메모리 비용으로 계산하지 않도록 합니다. 필요한 것은 미래에 대한 막연한 대비가 아니라, 제안서를 읽고 고쳐 저장하는 지금의 작업에 맞는 선택이에요.