API 호출이 끝나면 이전 대화를 전부 잊거든요

LLM은 기본적으로 무상태(stateless)예요. API 호출이 끝나면 이전 대화를 전부 잊거든요. 단순 질답엔 괜찮지만, 에이전트를 만들기 시작하면 이게 바로 문제가 돼요.

그래서 AI 엔지니어들이 쓰는 메모리 유형이 총 7가지예요. ① 컨텍스트 창 안의 워킹 메모리(RAM 같은 것), ② 사용자 선호를 저장하는 시맨틱 메모리, ③ 과거 대화·태스크 로그를 쌓는 에피소딕 메모리, ④ 반복 업무 절차를 기억하는 프로시저 메모리, ⑤ 벡터DB에서 끌어오는 외부 검색 메모리, ⑥ 가중치에 구워진 파라메트릭 메모리까지예요.

결국 '에이전트가 경험에서 배우고 시간이 지나도 행동한다'는 게 메모리 인프라의 핵심이에요. 어떤 유형을 어디에 쓸지 설계하는 것 자체가 에이전트 아키텍처의 절반이거든요.