2026-04-21

๊ธฐ์กด AI ์—์ด์ „ํŠธ์˜ "๊ธˆ๋ถ•์–ด ๋‡Œ" ๋ฌธ์ œ, ์ฆ‰ ์ด์ „ ์ถ”๋ก  ๊ณผ์ •์„ ๊ธฐ์–ตํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ตฌ์กฐ์  ํ•œ๊ณ„๋ฅผ ๊ฒจ๋ƒฅํ•œ ๋ชจ๋ธ์ด์—์š”

๐Ÿ’ก ํ•œ์ค„ ์š”์•ฝ|๊ธฐ์กด AI ์—์ด์ „ํŠธ์˜ "๊ธˆ๋ถ•์–ด ๋‡Œ" ๋ฌธ์ œ, ์ฆ‰ ์ด์ „ ์ถ”๋ก  ๊ณผ์ •์„ ๊ธฐ์–ตํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ตฌ์กฐ์  ํ•œ๊ณ„๋ฅผ ๊ฒจ๋ƒฅํ•œ ๋ชจ๋ธ์ด์—์š”.

Alibaba๊ฐ€ Qwen3.6โ€“35B-A3B๋ฅผ ๊ณต๊ฐœํ–ˆ์–ด์š”. ๊ธฐ์กด AI ์—์ด์ „ํŠธ์˜ "๊ธˆ๋ถ•์–ด ๋‡Œ" ๋ฌธ์ œ, ์ฆ‰ ์ด์ „ ์ถ”๋ก  ๊ณผ์ •์„ ๊ธฐ์–ตํ•˜์ง€ ๋ชปํ•˜๋Š” ๊ตฌ์กฐ์  ํ•œ๊ณ„๋ฅผ ๊ฒจ๋ƒฅํ•œ ๋ชจ๋ธ์ด์—์š”.

๊ตฌ์กฐ ์ž์ฒด๋Š” Qwen3.5์™€ ๋™์ผํ•ด์š”. ์ด 350์–ต ๊ฐœ ํŒŒ๋ผ๋ฏธํ„ฐ ์ค‘ ํ† ํฐ๋‹น 30์–ต๋งŒ ํ™œ์„ฑํ™”ํ•˜๋Š” ํ•˜์ด๋ธŒ๋ฆฌ๋“œ ์•„ํ‚คํ…์ฒ˜๋กœ, 24GB GPU ํ•œ ์žฅ์—์„œ ์‹คํ–‰ ๊ฐ€๋Šฅํ•˜๊ณ ์š”. ์‹ค์ œ ์ฝ”๋”ฉ ์ž‘์—…์—์„œ๋Š” ํ™œ์„ฑ ํŒŒ๋ผ๋ฏธํ„ฐ ๊ธฐ์ค€ 7๋ฐฐ ํฐ ๋ชจ๋ธ๋ณด๋‹ค ๋†’์€ ์„ฑ๋Šฅ์„ ๋ณด์ธ๋‹ค๊ณ  ํ•ด์š”.

์ด๋ฒˆ 3.6 ๋ฒ„์ „์˜ ํ•ต์‹ฌ์€ ์•„ํ‚คํ…์ฒ˜ ๋ณ€๊ฒฝ์ด ์•„๋‹ˆ๋ผ ๋™์ž‘ ๋ฐฉ์‹ ๊ฐœ์„ ์ด์—์š”. ์ปค๋ฎค๋‹ˆํ‹ฐ ํ”ผ๋“œ๋ฐฑ์„ ์ง์ ‘ ๋ฐ˜์˜ํ•ด์„œ ์—์ด์ „ํŠธ๊ฐ€ ์—ฌ๋Ÿฌ ํ„ด์— ๊ฑธ์ณ ์ž์‹ ์˜ ์ถ”๋ก  ํ๋ฆ„์„ ์œ ์ง€ํ•  ์ˆ˜ ์žˆ๋„๋ก ํ–ˆ๊ฑฐ๋“ ์š”.

์˜คํ”ˆ์›จ์ดํŠธ ๋ชจ๋ธ ์ค‘์—์„œ ์—์ด์ „ํŠธ์šฉ ์žฅ๊ธฐ ์ถ”๋ก ์— ๊ฐ€์žฅ ๊ทผ์ ‘ํ•œ ์„ค๊ณ„๋ผ๋Š” ์ ์ด ์ฃผ๋ชฉํ•  ๋งŒํ•ด์š”.

์ด ๊ธ€์ด ์–ด๋• ๋‚˜์š”?

๊ด€๋ จ ๊ธ€

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”