나만의 LLM 기억 장소 만들기 (DSPy + Qdrant)

💡 한줄 요약: LLM에게 장기 기억을 심어주는 커스텀 메모리 레이어 구축 방법을 다룹니다. DSPy와 Qdrant를 활용해 기억을 추가(ADD), 수정(UPDATE), 삭제(DELETE)하는 에이전트 워크플로우를 구현합니다. Mem0 논문에서 영감을 받은 구조입니다.

배경

RAG(검색 증강 생성)만으로는 부족합니다. 사용자와의 이전 대화 맥락을 기억하고, 정보가 바뀌면 기억을 업데이트하는 '진짜 기억'이 필요합니다. 단순히 모든 대화 로그를 넣는 게 아니라, 필요한 사실만 추출해서 저장하고 관리하는 '메모리 매니저'가 있어야 더 똑똑한 에이전트를 만들 수 있습니다.

📌 핵심 정리

• 메모리 수명 주기: 기억은 생성(Create)뿐만 아니라 수정(Update), 삭제(Delete)가 가능해야 합니다. (예: "차를 좋아해" -> "이제 차 싫어해"로 변경 시 기존 기억 삭제/수정)
• 아키텍처:
  1. Response Agent: 사용자 질문에 답변
  2. Memory Manager Agent: 대화 내용을 분석해 기억을 관리 (DSPy ReAct 사용)
  3. Vector DB (Qdrant): 기억 저장소
• 핵심 도구:
  • add_memory: 새로운 사실 저장
  • update_memory: 기존 기억 수정 (오래된 것 삭제 + 새 것 추가)
  • delete_memory: 더 이상 유효하지 않은 기억 삭제
  • no_op: 변경 사항 없음

MAX5의 생각 🎯

👨💻 바이브 코딩 레시피

Claude Code에게 아래 프롬프트로 메모리 모듈을 만들어달라고 해보세요.

DSPy와 Qdrant를 사용하여 간단한 'MemoryManager' 클래스를 만들어줘.
다음 기능을 포함해야 해:
1. `add_memory(text)`: 텍스트를 임베딩해서 Qdrant에 저장
2. `search_memory(query)`: 질문과 관련된 기억 검색
3. `update_memory(old_id, new_text)`: 기존 기억 ID로 찾아서 내용을 업데이트

필요한 라이브러리: dspy-ai, qdrant-client, fastembed

💸 사이드 프로젝트 아이디어

이 메모리 레이어를 활용해 '나를 기억하는 영어 회화 튜터'를 만들어보세요. 내가 틀렸던 문법, 내가 좋아하는 주제, 지난번에 했던 이야기를 기억해서 먼저 말을 걸어주는 에이전트는 기존 서비스와 확실한 차별점이 될 것입니다.