기업이 에이전트의 신원을 정확히 식별하지 못하면, 그 에이전트가 인간 감독 하에 있어야 한다는 정책 자체를 강제할 수 없거든요

AI 에이전트를 감독하는 인간이 있으면 충분하다는 생각, 사실 위험한 착각이에요.

기업이 에이전트의 신원을 정확히 식별하지 못하면, 그 에이전트가 인간 감독 하에 있어야 한다는 정책 자체를 강제할 수 없거든요. 감독이 UI 확인 버튼 하나나 시스템 프롬프트 한 줄로 대체되는 순간, 그건 정책이 아니라 희망사항이 되는 거예요.

해결책은 에이전트 신원을 아이덴티티 계층에 묶는 거예요. 감독 여부, 실행 범위, 승인 필요 여부를 그룹·역할·정책 메타데이터로 명시하면 감사 가능하고 강제 가능한 거버넌스가 만들어져요.

자율 에이전트가 늘어날수록, 신원 없는 에이전트는 제어 없는 에이전트와 같다는 원칙이 더 중요해질 거예요.