도구(tool)가 40~60개짜리 에이전트를 구축하면, 실제로 쓰이는 건 2~3개인데 나머지 전부를 컨텍스트 창에 미리 올려놓는 구조거든요

AI 에이전트를 만들 때마다 숨겨진 비용이 발생하고 있었어요. 도구(tool)가 4060개짜리 에이전트를 구축하면, 실제로 쓰이는 건 23개인데 나머지 전부를 컨텍스트 창에 미리 올려놓는 구조거든요.

수치로 보면 더 명확해요. 도구 정의 하나당 100~300토큰, 60개면 최대 1만 8천 토큰이 매 호출마다 낭비돼요. 10단계짜리 에이전트 워크플로우라면 아무 기여도 없이 18만 토큰이 날아가는 거예요.

OpenAI가 GPT-5.4에 출시한 Tool Search가 이 문제를 정면으로 건드렸어요. 전체 스키마 대신 이름과 간단한 설명만 담긴 경량 인덱스를 먼저 보내고, 모델이 필요한 도구만 골라 정의를 가져오는 방식이에요. 36개 MCP 서버, 250개 태스크 테스트에서 토큰 사용량이 47% 줄었고 정확도는 동일했어요.

에이전트 설계의 구조적 낭비를 처음으로 제대로 해결한 접근법이라는 점에서, LangGraph나 CrewAI 같은 다른 프레임워크에도 영향을 줄 패턴으로 주목받고 있어요.