핵심은 모델이 외부 툴을 호출하는 순간, 요청을 가로채서 정책에 맞는지 검사한다는 거예요

Microsoft가 AI 에이전트를 런타임 단계에서 제어하는 오픈소스 툴킷을 공개했어요.

핵심은 모델이 외부 툴을 호출하는 순간, 요청을 가로채서 정책에 맞는지 검사한다는 거예요. 예를 들어 재고 조회만 권한을 받은 에이전트가 구매 주문을 보내려 하면 API 호출을 차단하고 로그를 남겨요. 기존의 정적 코드 분석이나 사전 취약점 스캔은 LLM의 비결정론적 특성을 따라잡을 수 없거든요.

보안팀은 자율 에이전트의 모든 결정에 대한 감사 로그를 확보하게 되고, 개발팀은 개별 모델 프롬프트마다 보안 규칙을 하드코딩할 필요가 없어져요. 보안 정책이 애플리케이션 로직과 완전히 분리돼서 인프라 레벨에서 관리되는 구조예요.

AI 에이전트가 사내 API, 클라우드 스토리지, CI 파이프라인에 직접 연결되는 시대에, 실행 순간의 거버넌스가 얼마나 중요한지를 보여주는 움직임이에요.