MCP로 만드는 개인 지식베이스: 내 데이터는 로컬에 두고 Claude만 연결하기

💡 한줄 요약: MCP를 "모델을 서버로 노출"하는 방식이 아니라 "데이터 도구를 서버로 연결"하는 정석 구조로 바꾸면, 로컬 PC에서도 프라이빗 RAG를 구축할 수 있는데요, 예시 구성은 Apple M4 16GB 환경과 약 120줄 파이썬으로 구현됐습니다.

배경

MCP(Model Context Protocol) 관련 실습에서 자주 나오는 오해가 있습니다. 모델 자체를 MCP 서버로 노출하는 접근인데요, 이번 글은 그 반대로 "모델은 클라이언트, 데이터는 서버"라는 원칙을 기준으로 아키텍처를 재구성합니다. 즉 Claude Desktop이 MCP 클라이언트가 되고, 로컬 벡터DB·임베딩 모델을 붙인 FastMCP 서버가 검색 도구를 제공합니다.

구성은 비교적 단순합니다. Medium RSS로 글을 수집하고, nomic-embed-text 임베딩 모델(약 270MB)로 벡터를 생성해 ChromaDB에 저장합니다. 이후 Claude가 질문을 받으면 MCP 툴 search_articles를 자율 호출해 관련 청크를 가져와 답변합니다. 핵심은 문서 본문과 임베딩이 외부 SaaS로 나가지 않는다는 점입니다.

실행 과정에서 나온 운영 팁도 실전적입니다. 예를 들어 ChromaDB는 n_results 개수를 무조건 채우려는 성향이 있어 낮은 관련도 결과가 섞일 수 있는데요, 글에서는 관련도 임계값을 10% 이상으로 둬 품질을 정리했습니다. 또한 긴 문서 검색 정확도를 위해 결과 개수를 3개→5개로 늘리는 조정도 제시했습니다.

📌 핵심 정리

• 정석 MCP 구조: 모델이 서버가 아니라 클라이언트, 데이터 소스가 MCP 서버가 되어야 확장성이 좋아집니다.
• 완전 로컬 파이프라인: 임베딩·검색·저장 모두 로컬에서 수행해 민감 데이터 외부 유출 위험을 낮춥니다.
• 실행 환경 수치: 예시는 Apple M4, 16GB RAM, 임베딩 모델은 약 270MB 크기입니다.
• 검색 품질 튜닝: 관련도 임계값 10%를 적용해 잡음 응답을 줄였고, 복합 질의는 n_results를 5개로 늘려 보완했습니다.
• 구현 난이도: 스크래핑·임베딩·MCP 서버·클라이언트 연결까지 대략 120줄 내외 파이썬으로 학습 가능한 수준입니다.
• 주의사항: Medium RSS는 최근 10개 글만 제공해 지식베이스 커버리지가 제한될 수 있습니다.

MAX5의 생각 🎯

👨‍💻 바이브 코딩 레시피

개인/소규모 팀이라면 먼저 Notion export나 Markdown 폴더 200~500개 문서를 대상으로 같은 패턴을 적용해보세요. FastMCP + ChromaDB + 로컬 임베딩 조합으로 검색 툴 하나만 붙여도, 문서 찾기 시간과 반복 질의 시간이 크게 줄어듭니다. 특히 "내가 쓴 글/회의록에서 근거 찾아 답변" 같은 시나리오에서 즉시 효용이 나옵니다.

💡 주목할 포인트

이 방식의 본질은 "RAG를 싸게 시작하는 법"입니다. 클라우드 벡터DB와 임베딩 API를 붙이면 초기 속도는 빠르지만 호출량이 늘수록 비용이 가파르게 커집니다. 반면 로컬 기반은 초기 세팅이 조금 번거롭지만 운영비를 거의 0에 가깝게 만들 수 있어 인디해커에게 유리합니다. 작은 자동화 도구를 빠르게 검증하고, 트래픽이 붙을 때만 관리형 스택으로 이관하는 전략이 현실적입니다.