배포된 AI 에이전트를 처음부터 다시 만들지 않고도 지속적으로 개선할 수 있는 인프라예요

AWS가 AgentCore Optimization을 퍼블릭 프리뷰로 공개했어요. 배포된 AI 에이전트를 처음부터 다시 만들지 않고도 지속적으로 개선할 수 있는 인프라예요.

핵심은 세 가지예요. 버전 관리되는 설정 번들(Configuration Bundles), 트래픽을 두 설정으로 분산하는 AgentCore Gateway, 그리고 LLM-as-a-judge 방식으로 세션을 자동 채점하는 평가기예요. 50/50이든 80/20이든 원하는 비율로 트래픽을 나눠 실험할 수 있고, 결과는 CloudWatch에서 바로 확인돼요.

실제로 LangGraph 기반 고객지원 에이전트에서 프롬프트 개선, 도구 설명 개선, 더 큰 모델 전환 순서로 3번의 A/B 실험을 돌렸을 때 컨테이너 재배포 없이 전부 처리됐어요. AI 에이전트 운영의 무게 중심이 '만들기'에서 '개선하기'로 넘어가고 있다는 신호예요.