뉴스 - 원문 기반 요약 필요

제목(한글): 음성 AI 5종 지연 테스트, 2개만 300ms 통과 원문 제목(영문): I Benchmarked 5 Voice AI Stacks. Only 2 Stayed Under 300ms. 원문: I Benchmarked 5 Voice AI Stacks. Only 2 Stayed Under 300ms. 소스: dev-to-ai MD 파일: content/2026-05-27/dev-to-ai-i-benchmarked-5-voice-ai-stacks-only-2-stayed-unde.md

핵심 내용

음성 AI 스택 5개를 같은 1분 대화로 벤치마크했더니, 300ms 아래를 지킨 건 2개뿐이었어요.

P95 기준으로 OpenAI Realtime은 281ms, LiveKit+Gemini Live는 295ms였고 나머지 3개는 300ms를 넘겼어요. 체감 품질은 숫자보다 급격하게 무너졌거든요.

300500ms에선 잠깐 멈춤이 느껴지고, 500800ms부터 사용자가 AI 말을 끊기 시작해요. 800~1500ms에선 질문 반복이 늘고, 1500ms 이상이면 통화 자체를 포기하는 반응이 나왔어요.

결국 음성 에이전트 경쟁력은 모델 성능보다 먼저, 300ms 절벽을 안정적으로 넘느냐에서 갈린다는 의미예요.

잡돌쌤의 한마디

지연은 선형으로 나빠지지 않아요. 500ms부터 끼어들기, 800ms부터 질문 반복이 늘어 대화 신뢰가 빠르게 무너져요.

---

출처: I Benchmarked 5 Voice AI Stacks. Only 2 Stayed Under 300ms.