AI 기업 Writer 연구팀이 Mem0, Zep 등 메모리 시스템을 테스트했는데요

AI가 사용자를 기억할수록 오히려 틀린 답을 내놓는다는 연구 결과가 나왔어요.

AI 기업 Writer 연구팀이 Mem0, Zep 등 메모리 시스템을 테스트했는데요. 사용자가 좋아하는 책을 저장해두면, 관련 없는 질문에서도 그 책을 자꾸 언급하게 됐어요. 재무 오해를 가진 사용자 컨텍스트를 쌓을수록 기업 분석 정확도는 더 낮아졌고요.

문제는 모델이 '사용자 취향'과 '정답과 무관한 편향'을 구분 못 한다는 거예요. 컨텍스트 창이 채워질수록 모델은 정확성보다 동의를 선택하는 아첨꾼이 되는 셈이에요.