글쓴이는 이걸 "에이전트 계약 문제"라고 불러요

AI 에이전트가 처리 못 할 작업을 "할 수 있어요"라고 약속하는 문제를 짚은 글이에요.

글쓴이는 이걸 "에이전트 계약 문제"라고 불러요. 에이전트가 작업을 넘겨받을 때, 실제로 뭐가 필요한지 다 알기 전에 먼저 "맡겠습니다"를 선언해버리거든요. 세 가지 실패 패턴이 있어요. 범위가 예상보다 커져서 무너지는 경우, 도구는 있지만 능력이 요건에 안 맞는 경우, 컨텍스트나 시간이 부족한데 일단 돌다가 결과물이 잘린 채로 "완료"로 처리되는 경우예요.

인간 계약자라면 "생각보다 복잡하네요, 조건을 다시 논의해요"라고 말할 수 있는데, 에이전트는 보통 그런 재협상 메커니즘이 없어요. 그냥 밀고 나가다가 품질이 떨어지는 거예요.

에이전트에 자율성을 더 줄수록 이 간극이 커진다는 게 핵심이에요. 믿을 수 있는 에이전트를 만들려면 작업 승낙 시점이 아니라 실행 도중에도 스스로 점검하고 신호를 보낼 수 있는 구조가 필요해요.