DiffusionGemma로 맥에서 무엇을 할 수 있나요? 문서·이미지·음성 연결하기

일반적인 순차 생성은 앞서 만든 토큰⁴ 뒤에 다음 토큰을 이어 붙여요. DiffusionGemma는 한 블록의 토큰들을 함께 다듬은 뒤 다음 블록을 만들어요. 인코더가 입력을 읽고 디코더가 답변 블록을 생성해요. 실행 속도를 비교할 때도 입력 처리 시간과 답변 생성 시간을 나눠 기록하세요.

완성된 블록부터 표시하는 프로그램에서는 답변이 한 덩어리씩 나타날 수 있어요. 문서 요약이라면 전체 답변이 완성될 때까지의 시간과 요약의 정확성을 비교하세요. 대화용으로 쓴다면 첫 출력 블록이 나올 때까지 걸리는 시간도 기록해야 답을 얼마나 기다리는지 알 수 있어요.

Apple Silicon Mac과 uv를 준비하고 저장소를 별도 작업 폴더에 받으세요. uv sync로 실행 환경을 만든 뒤 아래 4비트 모델 예제를 사용해요. 첫 실행은 가중치 다운로드가 필요하므로 저장 공간과 네트워크를 준비해요. Fast-dLLM-mlx

git clone --depth 1 https://github.com/MacPaw/Fast-dLLM-mlx.git
cd Fast-dLLM-mlx
uv sync

아래 명령은 짧은 회의 메모에서 결정 사항·담당자·기한을 정리하도록 요청해요. 결과에 ‘민수가 새 검색 화면 시안을 작성한다’는 내용과 ‘금요일까지’라는 기한이 정확히 담겼는지 확인하세요. 짧은 메모를 처리한 뒤 메모리에 여유가 있다면 실제 받아쓰기 결과로 입력을 늘려 보세요.

uv run python -m fast_dllm_mlx.diffusion_gemma \
  --model mlx-community/diffusiongemma-26B-A4B-it-4bit \
  --prompt "다음 메모의 결정, 담당자, 기한을 정리해줘. 회의에서 민수가 금요일까지 새 검색 화면 시안을 작성하기로 했다." \
  --max-new-tokens 256 --steps 16 --threshold 0.9 \
  --use-compile --no-think --use-self-conditioning --max-canvas-length 64

문서 요약은 텍스트를 직접 넣고, 이미지 설명이나 OCR⁵은 이미지 입력을 지원하는 실행 경로를 선택해요. 영상은 프레임을 입력으로 처리해요. 위 명령은 텍스트 실행 예제이므로 이미지·영상 앱을 만들 때는 멀티모달 전처리까지 지원하는 구현을 고르세요.

음성 앱은 ASR로 녹음을 글로 바꾼 뒤 DiffusionGemma에 보내고, 읽어줄 답이 필요하면 TTS⁶에 넘겨요. 예를 들어 한국어 회의는 WhisperKit으로 받아쓰고 DiffusionGemma로 결정 사항을 정리할 수 있어요. 받아쓰기 오류를 먼저 고쳐야 사람 이름이나 일정이 요약에서도 정확히 이어져요.

DiffusionGemma는 문서나 이미지를 받아 답변을 만드는 모델이에요. DFlash2는 지원되는 다른 본 모델이 답을 더 빨리 만들도록 초안 토큰을 제안해요. Splash와 ANEMLL Forge는 이런 초안 생성을 활용하도록 본 모델과 실행 장치를 맞춰 둔 프로젝트예요.

뉴럴엔진⁷ 활용을 시험하려면 이 글의 MLX 예제와 별도로 해당 프로젝트의 ANE 지원 모델을 선택하세요. ANEMLL Forge에는 Qwen3.8-27B와 DFlash2의 Core AI 패키지를 묶은 연구 경로가 있어요. M5·M6별 함수 묶음과 문맥 설정을 확인해 맞는 파일을 받아야 해요. ANEMLL Forge

Qwen3.8을 이미 쓰고 있다면 두 모델에 같은 회의 메모와 출력 요청을 보내 보세요. 담당자와 기한이 맞는지, 메모에 없는 결정 사항을 덧붙였는지 읽고 첫 출력·전체 완료 시간을 기록해요. 확산 단계나 캔버스 크기를 바꿀 때도 같은 메모로 결과를 비교하세요.

실행이 메모리 오류로 끝나면 입력과 출력 한도를 낮춰 짧은 요청부터 재실행하세요. 모듈을 찾지 못하면 uv sync를 실행한 저장소 폴더인지 확인해요. 정상 답변을 얻었다면 받아쓰기와 요약을 연결하고, 이미지 입력은 그 기능을 지원하는 구현에서 별도로 추가해요.