OpenAIยทAnthropic API ๋น์ฉ์ ์ฝ๋ ํ ์ค๋ก ์ต๋ 50% ์ค์ด๋ ๋ฐฉ๋ฒ์ด ๊ณต๊ฐ๋์ด์.
ํต์ฌ์ ๋ชจ๋ธ์ ๋ฐ์ดํฐ๋ฅผ ๋ณด๋ด๊ธฐ ์ ์ ์ ์ฒ๋ฆฌํ๋ ๊ฑฐ์์. ๋ถํ์ํ ๊ณต๋ฐฑ, JSON ๋ณด์ผ๋ฌํ๋ ์ดํธ, ์๋ฏธ ์๋ ์กฐ์ฌ ๋ฑ 'ํ ํฐ ์ธ๊ธ'์ด ์๊ฐ๋ณด๋ค ์์ฒญ๋๊ฑฐ๋ ์. llm-cost-optimizer-node ๋ผ๋ ์คํ์์ค npm ํจํค์ง๋ฅผ ์ฐ๋ฉด minifyยทstemmingยท๋ถ์ฉ์ด ์ ๊ฑฐ๋ฅผ ํ์ดํ๋ผ์ธ์ ๊ฐ๋จํ ๋ผ์ ๋ฃ์ ์ ์์ด์.
RAG ํ์ดํ๋ผ์ธ์ด๋ ๋์ฉ๋ ์์คํ ํ๋กฌํํธ๋ฅผ ์ฐ๋ ํ๋ก์ ํธ๋ผ๋ฉด ๋น์ฉ ์ ๊ฐ ํจ๊ณผ๊ฐ ํนํ ํฌ๊ฒ ๋ํ๋์. ๋ ์ ๋ ดํ ๋ชจ๋ธ๋ก ๋ฐ๊พธ์ง ์๊ณ ๋ ๋์ผํ ํ์ง์ ์ ์งํ๋ฉด์ ์ฒญ๊ตฌ์๋ฅผ ์ค์ผ ์ ์๋ค๋ ์ ์ด ์ค์ฉ์ ์ด์์.