llama.cpp + Gemma 4 26B 조합으로 맥에서 완전 오프라인 로컬 에이전트를 구축한 사례가 공개됐거든요

인터넷이 끊겨도 코딩 에이전트를 쓸 수 있어요. llama.cpp + Gemma 4 26B 조합으로 맥에서 완전 오프라인 로컬 에이전트를 구축한 사례가 공개됐거든요.

Apple M1 Max(64GB) 기준으로 Metal 가속만 쓰면 초당 58토큰인데, MTP(Multi-Token Prediction) 드래프트 모델을 추가하면 속도가 2배로 올라가요. 모델 파일 크기는 약 16GB, 멀티모달 프로젝터까지 합쳐도 17GB 수준이에요.

OpenAI 호환 API로 서빙하니까 Claude Code나 다른 도구에서도 그대로 연결할 수 있고, 스크린샷을 그대로 넣어서 "지금 이 화면 고쳐줘" 식으로 쓸 수 있어요. 클라우드 의존에서 벗어나는 실용적인 선택지가 생긴 거예요.