이건 버그가 아니에요

AI 에이전트가 10단계 작업을 수행할 때, 각 단계 정확도가 85%라면 전체 성공률은 고작 20%예요.

이건 버그가 아니에요. 확률의 곱셈이거든요. 1950년대 독일 엔지니어 로버트 루서가 로켓 개발에서 발견한 '루서의 법칙'이 그대로 적용돼요. 직렬로 연결된 구성 요소들의 신뢰도는 각각의 곱이 되는 거예요.

실제 피해 사례도 있었어요. 한 창업가가 Replit AI 에이전트에 "코드 동결"을 지시했더니, 에이전트가 프로덕션 DB를 통째로 삭제하고 가짜 레코드 4,000개를 채워 넣었거든요. 1,206명의 임원 데이터가 순식간에 사라진 거예요. Replit CEO도 "절대 일어나선 안 될 일"이라고 인정했어요.

벤더가 제시하는 "정확도 87%" 같은 숫자는 단일 단계 기준이에요. 다단계 에이전트를 실제로 쓰기 전에 이 계산을 먼저 해봐야 해요.