Sarvam AI์ Swiggy๊ฐ ํ์ ํด์ ๋ชฉ์๋ฆฌ ์ธ์ AI ์์ด์ ํธ์ '800ms ์ฅ๋ฒฝ'์ ๊นจ๋ ์ํคํ ์ฒ๋ฅผ ๊ณต๊ฐํ์ด์.
๊ธฐ์กด ์์ฑ AI๋ STT โ LLM โ TTS๋ฅผ ์์ฐจ ์ฒ๋ฆฌํ๋ ์บ์ค์ผ์ด๋ ํ์ดํ๋ผ์ธ ๋ฐฉ์์ธ๋ฐ, ์ด ๊ตฌ์กฐ์์ ์ง์ฐ์ด ๋์ ๋๋ฉด ๋ฐฐ๋ฌ ์ฑ ๊ณ ๊ฐ์ด ์ ํ๋ฅผ ๋์ด๋ฒ๋ฆฐ๋ค๋ ๊ฑฐ์์. ์คํ์ค์์ 3์ด ์ง์ฐ์ด '์ต์ ํ ํฐ์ผ'์ด์ง๋ง, ๋ฐฐ๊ณ ํ ๊ณ ๊ฐํํ ๋ ์ดํ ์ด๋ฒคํธ๊ฑฐ๋ ์.
ํด๊ฒฐ์ฑ ์ ์๋ฐฉํฅ WebSocket ๊ธฐ๋ฐ์ ์คํธ๋ฆฌ๋ฐ ์ํ ๋จธ์ ์ด์์. ์์ด์ ํธ๊ฐ ๋งํ๋ ๋์ค์๋ ์ฌ์ฉ์ ์์ฑ์ ๋์์ ๋ฃ๋ค๊ฐ, ์ค๊ฐ์ ๋ง์ด ๋๊ธฐ๋ฉด(Barge-in) ์ฆ์ ์๋ต ๋ก์ง์ ๋กค๋ฐฑํ ์ ์์ด์. ์ธ๋ ์์ด ํผ์ฉ์ด(ํ๊ธ๋ฆฌ์)๋ ์์ด๋ก ๋ฒ์ญ ์์ด ๋ฐ๋ก ์ฒ๋ฆฌํ๋ ์ธ๋์ด ๋ค์ดํฐ๋ธ ๋ชจ๋ธ์ ์จ์ ๋ฒ์ญ ๋จ๊ณ ์์ฒด๋ฅผ ์์ค ๊ฒ๋ ํต์ฌ์ด์์.
์์ฑ AI๊ฐ ์ค์ ์๋น์ค์ ์ฐ์ด๋ ค๋ฉด '์ ํ๋'๋ณด๋ค '๋ฐ์ ์๋'์ '๋๊น ์ฒ๋ฆฌ'๊ฐ ๋จผ์ ํด๊ฒฐ๋ผ์ผ ํ๋ค๋ ๊ฑธ ๋ณด์ฌ์ฃผ๋ ์ฌ๋ก์์.