2026-04-21

์ด๋กœ์จ Amazon์˜ ๋ˆ„์  ํˆฌ์ž๊ธˆ์€ ์ด 130์–ต ๋‹ฌ๋Ÿฌ๊ฐ€ ๋๊ฑฐ๋“ ์š”

๐Ÿ’ก ํ•œ์ค„ ์š”์•ฝ|์ด๋กœ์จ Amazon์˜ ๋ˆ„์  ํˆฌ์ž๊ธˆ์€ ์ด 130์–ต ๋‹ฌ๋Ÿฌ๊ฐ€ ๋๊ฑฐ๋“ ์š”.

Amazon์ด Anthropic์— 50์–ต ๋‹ฌ๋Ÿฌ๋ฅผ ์ถ”๊ฐ€ ํˆฌ์žํ–ˆ์–ด์š”. ์ด๋กœ์จ Amazon์˜ ๋ˆ„์  ํˆฌ์ž๊ธˆ์€ ์ด 130์–ต ๋‹ฌ๋Ÿฌ๊ฐ€ ๋๊ฑฐ๋“ ์š”.

์ด๋ฒˆ ๋”œ์˜ ํ•ต์‹ฌ์€ ์–‘๋ฐฉํ–ฅ ๊ณ„์•ฝ์ด์—์š”. Anthropic์€ ํ–ฅํ›„ 10๋…„๊ฐ„ AWS์— 1,000์–ต ๋‹ฌ๋Ÿฌ ์ด์ƒ์„ ์ง€์ถœํ•˜๊ณ , ๊ทธ ๋Œ€๊ฐ€๋กœ ์ตœ๋Œ€ 5GW์˜ ์ปดํ“จํŒ… ์šฉ๋Ÿ‰์„ ํ™•๋ณดํ•ด์š”. ํŠนํžˆ Amazon์˜ AI ์ „์šฉ ์นฉ์ธ Trainium2๋ถ€ํ„ฐ Trainium4๊นŒ์ง€ ํฌํ•จ๋๋Š”๋ฐ, Trainium4๋Š” ์•„์ง ์ถœ์‹œ๋„ ์•ˆ ๋œ ๋ฏธ๋ž˜ ์นฉ์ด์—์š”.

2๊ฐœ์›” ์ „ Amazon์ด OpenAI์˜ 1,100์–ต ๋‹ฌ๋Ÿฌ ํŽ€๋”ฉ ๋ผ์šด๋“œ์— 500์–ต ๋‹ฌ๋Ÿฌ๋ฅผ ํˆฌ์žํ•œ ๊ฒƒ๊ณผ ๊ตฌ์กฐ๊ฐ€ ๋น„์Šทํ•ด์š”. ํ˜„๊ธˆ ํˆฌ์ž์ด๋ฉด์„œ ๋™์‹œ์— ํด๋ผ์šฐ๋“œ ์ธํ”„๋ผ ์•ฝ์ •์œผ๋กœ ๋ฌถ๋Š” ๋ฐฉ์‹์ด๊ฑฐ๋“ ์š”.

800์–ต ๋‹ฌ๋Ÿฌ ๋ฐธ๋ฅ˜์—์ด์…˜ ์ œ์•ˆ์„ ์ด๋ฏธ ๋ฐ›๊ณ  ์žˆ๋‹ค๋Š” ๋ณด๋„๋„ ๋‚˜์˜จ ์ƒํ™ฉ์ด๋ผ, ์ด๋ฒˆ Amazon ๋”œ์ด ์ƒˆ ํŽ€๋”ฉ ๋ผ์šด๋“œ ๊ณต๊ฐœ์˜ ์ „์กฐ์ผ ์ˆ˜ ์žˆ์–ด์š”.

์ด ๊ธ€์ด ์–ด๋• ๋‚˜์š”?

๊ด€๋ จ ๊ธ€

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”

๋‚ด๋ถ€ ๋ฉ”๋ชจ์— ๋”ฐ๋ฅด๋ฉด ๋ฏธ๊ตญ ์ง์› ์ปดํ“จํ„ฐ์— ์ถ”์  ์†Œํ”„ํŠธ์›จ์–ด๋ฅผ ์„ค์น˜ํ•ด ์—…๋ฌด ๊ด€๋ จ ์•ฑ๊ณผ ์›น์‚ฌ์ดํŠธ์—์„œ ๋ฐœ์ƒํ•˜๋Š” ํ–‰๋™์„ ๊ธฐ๋กํ•˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”

์ œ๊ณต๋œ ๋‚ด์šฉ์€ ์ œ๋ชฉ, ์ €์ž ์ •๋ณด, ๋ฉ”ํƒ€๋ฐ์ดํ„ฐ๋งŒ ์žˆ๊ณ  ์‹ค์ œ "25๊ฐ€์ง€" ๋‚ด์šฉ์ด ์—†๋Š” ์ƒํƒœ์˜ˆ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”

35B ํŒŒ๋ผ๋ฏธํ„ฐ์— ์‹ค์ œ ํ™œ์„ฑํ™”๋Š” 3B๋งŒ ์“ฐ๋Š” MoE ๊ตฌ์กฐ๋ผ GPU ๋ฉ”๋ชจ๋ฆฌ์— ๋”ฐ๋ผ bf16ยทint8ยทint4๋กœ ์ž๋™ ์ „ํ™˜๋˜๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”