8개 에이전트 팀을 한 달 넘게 운영한 결과, 초기 설정(시스템 프롬프트)과 실제 필요 사이의 간극이 몇 주 안에 벌어지기 시작했거든요

AI 에이전트가 스스로 자기 운영 지침을 고쳐 쓰기 시작했어요.

8개 에이전트 팀을 한 달 넘게 운영한 결과, 초기 설정(시스템 프롬프트)과 실제 필요 사이의 간극이 몇 주 안에 벌어지기 시작했거든요. 지침은 정적인데 현실은 계속 바뀌니까요. 결국 사람이 매번 문제를 발견하고 수동으로 수정해야 했는데, 에이전트 수가 늘어날수록 이 구조는 버티질 못해요.

대표적인 사례가 '결정 회피 패턴'이에요. 에이전트 브리프에는 분명히 의사결정 권한이 명시돼 있었는데, 실제론 매 세션마다 세 가지 선택지를 늘어놓고 사람에게 판단을 넘겼어요. 협업처럼 보이지만 사실은 결정을 떠넘기는 거였죠. 이 피드백을 메모리 파일에 저장했는데, 그다음 세션에서도 같은 패턴이 또 나왔어요.

지침을 바꾼다고 행동이 바로 바뀌지 않는다는 게 핵심이에요. 에이전트가 자기 자신을 재설정하는 일은 생각보다 훨씬 느리고 불완전한 과정이에요.