H Company๊ฐ ์ปดํจํฐ ์กฐ์ ์ ์ฉ AI ๋ชจ๋ธ Holotron-12B๋ฅผ ๊ณต๊ฐํ์ด์.
NVIDIA์ ์คํ์์ค ๋ชจ๋ธ Nemotron-Nano-2 VL์ ๊ธฐ๋ฐ์ผ๋ก ์์ฒด ๋ฐ์ดํฐ๋ก ์ถ๊ฐ ํ์ตํ 12B๊ธ ๋ฉํฐ๋ชจ๋ฌ ๋ชจ๋ธ์ด์์. ํ๋ฉด์ ๋ณด๊ณ ์ง์ ํด๋ฆญํ๊ณ ์ ๋ ฅํ๋ "์ปดํจํฐ ์ฌ์ฉ" ํ์คํฌ์ ํนํ๋์ด ์๊ฑฐ๋ ์.
๊ฐ์ฅ ๋์ ๋๋ ๊ฑด ์ํคํ ์ฒ์์. Transformer ๋์ SSM(State Space Model) ํ์ด๋ธ๋ฆฌ๋ ๊ตฌ์กฐ๋ฅผ ์จ์ ์ถ๋ก ์ฒ๋ฆฌ๋(throughput)์ ๋ํญ ๋์์ด์. ํ๋ก๋์ ํ๊ฒฝ์์ ๋๊ท๋ชจ๋ก ๋๋ฆฌ๊ธฐ ์ํด ์ค๊ณ๋ ๊ฑฐ์์. NVIDIA Inception ํ๋ก๊ทธ๋จ ์์ ์คํํธ์ ์ด ๋ง๋ค์๋ค๋ ์ ๋ ์ฃผ๋ชฉํ ๋งํด์.
์ปดํจํฐ ์ฌ์ฉ ์์ด์ ํธ ์์ฅ์ ์คํ ๊ธฐ๋ฐ ๊ฒฝ๋ ๋ชจ๋ธ์ด ๋ค์ด์ค๋ฉด์, ๊ธฐ์ ๋ค์ด ์์ฒด ์ธํ๋ผ์์ ์ ๋ ดํ๊ฒ ์์ด์ ํธ๋ฅผ ์ด์ํ๋ ์ ํ์ง๊ฐ ๋์ด๋๊ณ ์์ด์.