2026-04-21

๋กœ๋ด‡ ํ›ˆ๋ จ์šฉ ๋ฐ์ดํ„ฐ๋ฅผ ๋ชจ์œผ๊ธฐ ์œ„ํ•ด ๊ธฐ์—…๋“ค์ด ์ด์ œ ์ผ๋ฐ˜์ธ์—๊ฒŒ ๋ˆ์„ ์ง€๋ถˆํ•˜๊ณ  ์žˆ๊ฑฐ๋“ ์š”

๐Ÿ’ก ํ•œ์ค„ ์š”์•ฝ|๋กœ๋ด‡ ํ›ˆ๋ จ์šฉ ๋ฐ์ดํ„ฐ๋ฅผ ๋ชจ์œผ๊ธฐ ์œ„ํ•ด ๊ธฐ์—…๋“ค์ด ์ด์ œ ์ผ๋ฐ˜์ธ์—๊ฒŒ ๋ˆ์„ ์ง€๋ถˆํ•˜๊ณ  ์žˆ๊ฑฐ๋“ ์š”.

์ธ๊ฐ„์˜ ์›€์ง์ž„ ๋ฐ์ดํ„ฐ๊ฐ€ ์ฐจ์„ธ๋Œ€ AI ํ•™์Šต์˜ ํ•ต์‹ฌ ์›๋ฃŒ๊ฐ€ ๋์–ด์š”.

๋กœ๋ด‡ ํ›ˆ๋ จ์šฉ ๋ฐ์ดํ„ฐ๋ฅผ ๋ชจ์œผ๊ธฐ ์œ„ํ•ด ๊ธฐ์—…๋“ค์ด ์ด์ œ ์ผ๋ฐ˜์ธ์—๊ฒŒ ๋ˆ์„ ์ง€๋ถˆํ•˜๊ณ  ์žˆ๊ฑฐ๋“ ์š”. ์Œ์‹์„ ์ „์ž๋ ˆ์ธ์ง€์— ๋„ฃ๋Š” ์˜์ƒ์„ ์ฐ์œผ๋ฉด ์•”ํ˜ธํ™”ํ๋กœ ๋ณด์ƒ์„ ๋ฐ›๊ณ , ์ค‘๊ตญ ์‹ฌ์ฒœ์˜ ๋กœ๋ด‡ ํŒ”์„ ์›๊ฒฉ ์กฐ์ข…ํ•˜๋Š” ๊ฒŒ์ž„์— ์ฐธ์—ฌํ•  ์ˆ˜๋„ ์žˆ์–ด์š”.

๋ฐฐ๊ฒฝ์€ ์ด๋ž˜์š”. 2022๋…„ ChatGPT ์ถœ์‹œ ์ดํ›„ ๋กœ๋ด‡ ๊ธฐ์—…๋“ค์ด ์–ธ์–ด๋ชจ๋ธ์ฒ˜๋Ÿผ ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ๋กœ ๋กœ๋ด‡์„ ํ›ˆ๋ จ์‹œํ‚ค๋ ค ํ–ˆ๋Š”๋ฐ, ์ธ๊ฐ„ ๋™์ž‘ ๋ฐ์ดํ„ฐ๋Š” ์ธํ„ฐ๋„ท ํฌ๊ธฐ๋งŒํผ ์Œ“์—ฌ์žˆ์งˆ ์•Š์•˜๊ฑฐ๋“ ์š”. ์‹œ๋ฎฌ๋ ˆ์ด์…˜์œผ๋กœ ๋Œ€์ฒดํ•ด๋ดค์ง€๋งŒ ํ˜„์‹ค์˜ ๋งˆ์ฐฐ์ด๋‚˜ ํƒ„์„ฑ์„ ์™„๋ฒฝํ•˜๊ฒŒ ๊ตฌํ˜„ ๋ชป ํ•ด์„œ ๋กœ๋ด‡๋“ค์ด ์ž๊พธ ๋„˜์–ด์กŒ์–ด์š”. 2025๋…„ ํ•œ ํ•ด์—๋งŒ ํœด๋จธ๋…ธ์ด๋“œ ๋ถ„์•ผ์— 61์–ต ๋‹ฌ๋Ÿฌ์˜ ๋ฒค์ฒ˜ ์ž๋ณธ์ด ๋ชฐ๋ฆฌ๋ฉด์„œ ์ด ๋ฐ์ดํ„ฐ ๊ฒฝ์Ÿ์ด ๋ณธ๊ฒฉํ™”๋์–ด์š”.

ํ˜„์žฌ ์ค‘๊ตญ์—์„  ์™ธ๊ณจ๊ฒฉ ์ŠˆํŠธ๋ฅผ ์ž…๊ณ  ํ•˜๋ฃจ์— ์ˆ˜๋ฐฑ ๋ฒˆ์”ฉ ๊ฐ™์€ ๋™์ž‘์„ ๋ฐ˜๋ณตํ•˜๋Š” ํ›ˆ๋ จ ์„ผํ„ฐ๊ฐ€ ์šด์˜๋˜๊ณ  ์žˆ๊ณ , ๋‚˜์ด์ง€๋ฆฌ์•„ยท์•„๋ฅดํ—จํ‹ฐ๋‚˜ยท์ธ๋„์˜ ๊ธฑ ์›Œ์ปค๋“ค์ด ์ง‘์—์„œ ์ง‘์•ˆ์ผ์„ ์˜์ƒ์œผ๋กœ ์ฐ์–ด ์ œ์ถœํ•˜๋Š” ๋ฐฉ์‹๋„ ์“ฐ์ด๊ณ  ์žˆ์–ด์š”. ์šฐ๋ฆฌ ๊ธ€์ด LLM์˜ ์žฌ๋ฃŒ๊ฐ€ ๋๋“ฏ, ์ด์ œ ์šฐ๋ฆฌ์˜ ๋ชธ์ง“์ด ๋กœ๋ด‡ AI์˜ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ๊ฐ€ ๋˜๋Š” ์‹œ๋Œ€๊ฐ€ ์˜จ ๊ฑฐ์˜ˆ์š”.

์ด ๊ธ€์ด ์–ด๋• ๋‚˜์š”?

๊ด€๋ จ ๊ธ€

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”