2026-03-22

NVIDIA GTC์—์„œ ์  ์Šจ ํ™ฉ์ด ํ™•์ธํ•ด์ค€ ๊ฒƒ์ฒ˜๋Ÿผ, ์„ธ์ƒ์€ ์ด๋ฏธ 'ํ•™์Šต(Training) ์ค‘์‹ฌ'์—์„œ '์ถ”๋ก (Inference) ์ค‘์‹ฌ' ๊ฒฝ์ œ๋กœ ๋„˜์–ด๊ฐ”๊ฑฐ๋“ ์š”

๐Ÿ’ก ํ•œ์ค„ ์š”์•ฝ|NVIDIA GTC์—์„œ ์  ์Šจ ํ™ฉ์ด ํ™•์ธํ•ด์ค€ ๊ฒƒ์ฒ˜๋Ÿผ, ์„ธ์ƒ์€ ์ด๋ฏธ 'ํ•™์Šต(Training) ์ค‘์‹ฌ'์—์„œ '์ถ”๋ก (Inference) ์ค‘์‹ฌ' ๊ฒฝ์ œ๋กœ ๋„˜์–ด๊ฐ”๊ฑฐ๋“ ์š”.

๋Œ€๋ถ€๋ถ„์˜ ์กฐ์ง์ด AI๋ฅผ ์™„์ „ํžˆ ์ž˜๋ชป๋œ ๋ฐฉ์‹์œผ๋กœ ์ดํ•ดํ•˜๊ณ  ์žˆ๋‹ค๋Š” ๊ฒฝ๊ณ ๊ฐ€ ๋‚˜์™”์–ด์š”. NVIDIA GTC์—์„œ ์  ์Šจ ํ™ฉ์ด ํ™•์ธํ•ด์ค€ ๊ฒƒ์ฒ˜๋Ÿผ, ์„ธ์ƒ์€ ์ด๋ฏธ 'ํ•™์Šต(Training) ์ค‘์‹ฌ'์—์„œ '์ถ”๋ก (Inference) ์ค‘์‹ฌ' ๊ฒฝ์ œ๋กœ ๋„˜์–ด๊ฐ”๊ฑฐ๋“ ์š”.

ํ•ต์‹ฌ์€ ํ† ํฐ์ด ๋” ์ด์ƒ IT ์˜ˆ์‚ฐ ํ•ญ๋ชฉ์ด ์•„๋‹ˆ๋ผ๋Š” ๊ฑฐ์˜ˆ์š”. ์ „๊ธฐ, ์‚ฌ๋ฌด์‹ค ์ž„๋Œ€๋ฃŒ, ์ธ๊ฑด๋น„์ฒ˜๋Ÿผ ์ง€์‹ ๋…ธ๋™์˜ ํ•ต์‹ฌ ์ƒ์‚ฐ ํˆฌ์ž…๋ฌผ์ด ๋์–ด์š”. ์ˆ˜๋ฐฑ๋งŒ ๊ฐœ์˜ ์›Œํฌํ”Œ๋กœ์šฐ์™€ AI ์—์ด์ „ํŠธ๊ฐ€ 24์‹œ๊ฐ„ ๋ชจ๋ธ์„ ๋Œ๋ฆฌ๋Š” ์„ธ์ƒ์ด๋‹ˆ๊นŒ์š”.

๊ทธ๋Ÿฐ๋ฐ ๋Œ€๋ถ€๋ถ„์˜ ๊ธฐ์—…์€ ์•„์ง๋„ AI๋ฅผ ํ•œ ๋ฒˆ ํˆฌ์žํ•˜๋ฉด ๋๋‚˜๋Š” ์ž๋ณธ ํ”„๋กœ์ ํŠธ์ฒ˜๋Ÿผ ๋‹ค๋ฃจ๊ณ  ์žˆ์–ด์š”. ์šด์˜ ๋น„์šฉ ๊ตฌ์กฐ ์ž์ฒด๊ฐ€ ๋ฐ”๋€Œ์—ˆ๋‹ค๋Š” ๊ฑธ ๋ฐ›์•„๋“ค์ด์ง€ ๋ชปํ•œ ๊ฑฐ๊ฑฐ๋“ ์š”.

์ถ”๋ก  ๊ฒฝ์ œ์—์„œ ๋’ค์ฒ˜์ง€๋Š” ๊ฑด ๋‹จ์ˆœํžˆ ๊ธฐ์ˆ  ๊ฒฉ์ฐจ๊ฐ€ ์•„๋‹ˆ๋ผ ๋น„์šฉ ๊ตฌ์กฐ์˜ ์‹คํŒจ๋กœ ์ด์–ด์งˆ ๊ฑฐ์˜ˆ์š”.

์ด ๊ธ€์ด ์–ด๋• ๋‚˜์š”?

๊ด€๋ จ ๊ธ€

ํ˜„์žฌ Trainium ์นฉ์€ 3์„ธ๋Œ€ ํ•ฉ์‚ฐ 140๋งŒ ๊ฐœ๊ฐ€ ๋ฐฐํฌ๋ผ ์žˆ๋Š”๋ฐ, ๊ทธ์ค‘ Anthropic์˜ Claude๊ฐ€ Trainium2 ์นฉ 100๋งŒ ๊ฐœ ์ด์ƒ์—์„œ ๋Œ์•„๊ฐ€๊ณ  ์žˆ๊ฑฐ๋“ ์š”

ํ˜„์žฌ Trainium ์นฉ์€ 3์„ธ๋Œ€ ํ•ฉ์‚ฐ 140๋งŒ ๊ฐœ๊ฐ€ ๋ฐฐํฌ๋ผ ์žˆ๋Š”๋ฐ, ๊ทธ์ค‘ Anthropic์˜ Claude๊ฐ€ Trainium2 ์นฉ 100๋งŒ ๊ฐœ ์ด์ƒ์—์„œ ๋Œ์•„๊ฐ€๊ณ  ์žˆ๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

๋””์ฆˆ๋‹ˆ '๊ฒจ์šธ์™•๊ตญ'์˜ ๋ˆˆ์‚ฌ๋žŒ ์บ๋ฆญํ„ฐ๋ฅผ ๋กœ๋ด‡์œผ๋กœ ๊ตฌํ˜„ํ•œ ๊ฑฐ์˜ˆ์š”

๋””์ฆˆ๋‹ˆ '๊ฒจ์šธ์™•๊ตญ'์˜ ๋ˆˆ์‚ฌ๋žŒ ์บ๋ฆญํ„ฐ๋ฅผ ๋กœ๋ด‡์œผ๋กœ ๊ตฌํ˜„ํ•œ ๊ฑฐ์˜ˆ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”

๊ทธ๊ฐ€ ๋ช‡ ๋‹ฌ์— ๊ฑธ์ณ ์†์ˆ˜ ์กฐ์ •ํ•œ GPT-2 ํ•™์Šต ์„ค์ •์„ ์ž์œจ ์—์ด์ „ํŠธ์—๊ฒŒ ํ•˜๋ฃป๋ฐค ๋งก๊ฒผ๋”๋‹ˆ, ์ธ๊ฐ„์ด ๋†“์ณค๋˜ ์„ธ๋ฐ€ํ•œ ์กฐ์ •๊ฐ’๋“ค์„ ์ฐพ์•„๋ƒˆ๊ฑฐ๋“ ์š”

๊ทธ๊ฐ€ ๋ช‡ ๋‹ฌ์— ๊ฑธ์ณ ์†์ˆ˜ ์กฐ์ •ํ•œ GPT-2 ํ•™์Šต ์„ค์ •์„ ์ž์œจ ์—์ด์ „ํŠธ์—๊ฒŒ ํ•˜๋ฃป๋ฐค ๋งก๊ฒผ๋”๋‹ˆ, ์ธ๊ฐ„์ด ๋†“์ณค๋˜ ์„ธ๋ฐ€ํ•œ ์กฐ์ •๊ฐ’๋“ค์„ ์ฐพ์•„๋ƒˆ๊ฑฐ๋“ ์š”.

์žก๋Œ์Œค2๋ถ„ ์†Œ์š”