200개 태스크 벤치마크를 돌려봤더니 466번의 재시도 중 대부분이 "없는 툴"을 반복 호출하는 데 쓰였거든요

ReAct 에이전트의 재시도 예산 90.8%가 처음부터 실패가 확정된 작업에 낭비되고 있어요.

200개 태스크 벤치마크를 돌려봤더니 466번의 재시도 중 대부분이 "없는 툴"을 반복 호출하는 데 쓰였거든요. 모델이 틀린 게 아니라, 런타임에 LLM이 툴 이름을 직접 생성하다 보니 존재하지 않는 이름을 만들어내는 구조적 문제예요.

더 까다로운 건 모니터링 대시보드가 이걸 안 잡아낸다는 거예요. 성공률, 레이턴시, 재시도 횟수는 다 정상으로 뜨는데, "처음부터 불가능했던 재시도"는 별도 분류가 없으면 보이지 않아요. 해결책은 단순해요. LLM에게 툴 이름 대신 step type만 출력하게 하고, 코드 레이어에서 STEP_TO_TOOL 딕셔너리로 항상 유효한 툴을 매핑하면 돼요.

아키텍처 한 줄 바꾸는 것만으로 재시도 예산 낭비를 막을 수 있다는 점에서, 에이전트를 프로덕션에 올리는 팀이라면 꼭 점검해볼 지점이에요.