ํ ๊ฐ๋ฐ์๊ฐ 1์ฃผ์ผ ๋ง์ llama.cpp ์ ์ฉ ๋ฒ์ ๋งค๋์ ๋ฅผ ์ง์ ๋ง๋ค์์ด์.
LLM์ 2์์ ์์ํ ์์ฑ์๋ ์ ๋ฐ์ดํธ ์ฃผ๊ธฐ๊ฐ ๋๋ฌด ๋นจ๋ผ ์๋ ์ ๋ฐ์ดํธ๊ฐ ๋ฒ๊ฑฐ๋ก์ ๊ณ , nvm์ฒ๋ผ ์ค์นยท์ ํยท์ญ์ ๋ฅผ ํ ๋ฒ์ ํ๋ CLI๊ฐ ํ์ํ๋ค๊ณ ํด์. Claude์ ๋ก์ปฌ Qwen 35B ๋์์ผ๋ก Go๋ก ๊ตฌํํ์ด์.
ํต์ฌ ๋ช ๋ น์ lvm install latest, lvm use, lvm ls์์. shims ๋ฐฉ์์ผ๋ก llama-cliยทllama-server๊ฐ ํ์ฌ ํ์ฑ ๋ฒ์ ์ ์๋์ผ๋ก ๊ฐ๋ฆฌ์ผ PATH๋ฅผ ๋งค๋ฒ ์๋ณผ ํ์๋ฅผ ์ค์์ด์.
๋ก์ปฌ AI ํด๋ ์ด์ ๋ ๋ชจ๋ธ ์ฑ๋ฅ ๊ฒฝ์์ ๋์ด, ๋ฒ์ ์ด์ ์๋ํ๊ฐ ์ฌ์ฉ์ ๊ฒฝํ์ ๊ฐ๋ฅด๋ ๋จ๊ณ๋ก ๊ฐ๊ณ ์๋ค๋ ์ ํธ์์.