기존 방식은 사용자가 말을 끝내면 전체 오디오를 API에 보내고 결과를 기다리는 구조인데, 이 경우 응답까지 2~5초가 걸려요

구글 Gemini API로 실시간 음성 폼을 만들 때, 진짜 난관은 전사(transcription) 자체가 아니라 체감 속도예요.

기존 방식은 사용자가 말을 끝내면 전체 오디오를 API에 보내고 결과를 기다리는 구조인데, 이 경우 응답까지 2~5초가 걸려요. 그 2초가 사용자 입장에서는 "뭔가 고장난 것 같다"는 느낌을 주거든요.

해결법은 스트리밍이에요. 마이크 입력을 WebSocket으로 청크 단위로 전송하면서 Gemini API에 실시간으로 흘려보내면, 첫 번째 결과가 200~400ms 안에 돌아와요. 사용자가 말을 끝내기도 전에 텍스트가 화면에 나타나는 거예요.

음성 인터페이스가 느리다는 인식을 바꾸려면 결국 아키텍처 설계가 핵심이에요. 같은 API를 써도 구조에 따라 사용자 경험이 완전히 달라지거든요.