API 호출 성공, 툴 반환값 유효, 예외 없음 — 그런데도 에이전트는 같은 툴을 계속 반복 호출하며 무한 루프에 빠졌거든요

AI 에이전트를 프로덕션에 배포했는데, 로그는 모두 "정상"이었지만 에이전트가 계속 잘못된 결정을 내렸어요.

API 호출 성공, 툴 반환값 유효, 예외 없음 — 그런데도 에이전트는 같은 툴을 계속 반복 호출하며 무한 루프에 빠졌거든요. 레이턴시가 치솟고 토큰 사용량이 폭증했지만 로그 어디에도 원인이 없었어요.

문제는 실행 레이어가 아니라 결정 레이어에 있었어요. 에이전트는 "작업 완료" 응답을 받았지만, 그걸 완료 신호로 해석하지 못한 거예요. 기존 로깅은 실행 결과만 기록하고, 모델이 왜 그 결정을 내렸는지는 추적하지 못하거든요.

에이전트 시스템에서는 출력이 맞아도 동작이 틀릴 수 있다는 게 핵심이에요. 로그가 아니라 의사결정 흐름 자체를 디버깅해야 하는 새로운 패러다임이 필요한 시점이에요.