๐ ์๋น๋์ ์ ์จ ํฉ์ด ๋ธ๋์ฐ (์ฌ๊ฒ ํด)์ค๋์ ์ค๋ ๋ ํฐ๋ ์ด๋ฐ ๋ด์ฉ์ด์์ ๐:
- ์ ์จ ํฉ์ ์ ๋ฌผ, AI์นฉ '๋ธ๋์ฐ'
- GPU์ CPU๊ฐ ์ AI์ ํ์ํ ๊น?
- ์ฐ๋ฆฌ๋๋ผ์๊ฒ ์ค ์ ๋ฌผ์ ์๋ฏธ
|
|
|
๐ง ์ ์จ ํฉ์ด ์ค๋ค๋ AI ์นฉ์ด ๋ญ๊ธธ๋? |
|
|
๋ค๋ฅธ ์ธ์์ ์ฌ๋ ๊ฒ ๊ฐ์ ์ธ๋ฌผ ์
์ด ๋ํ๋ฏผ๊ตญ ๊ตญ๋ฏผ์ด๋ผ๋ฉด ๊ฐ์ฅ ์น์ํ ๊ณต๊ฐ์ธ ์นํจ์ง์์ ๋ฐ๊ฒฌ๋์์ต๋๋ค. ์๋น๋์ CEO ์ ์จ ํฉ, ์ผ์ฑ์ ์ ์ด์ฌ์ฉ ํ์ฅ, ๊ทธ๋ฆฌ๊ณ ํ๋์๋์ฐจ๊ทธ๋ฃน ์ ์์ ํ์ฅ์ด '์น๋งฅ'์ ํ๋ ๋ชจ์ต์ด ํฌ์ฐฉ๋ ๊ฒ์ธ๋ฐ์. |
|
|
์ด์ฌ์ฉ ํ์ฅ, ์ ์์ ํ์ฅ, ๊ทธ๋ฆฌ๊ณ ์ ์จ ํฉ์ ๋ชจ์ต. ์๋น์ค๋ก ์น์ฆ๋ณผ์ด ๋์๋ค๊ณ ํ๋ค. ์ถ์ฒ: ์ค์์ผ๋ณด
ํ๊ตญ์ ๋ฐฉ๋ฌธํ ์ ์จ์ ์ฌ์ง ์ ๋งฅ์ฃผ๋งํผ์ด๋ ์์ํ ์ฝ์์ ํ๊ณ ๋์๊ฐ์ต๋๋ค. ์๋น๋์์ ์ต์ ํ AI ์นฉ '๋ธ๋์ฐ(Blackwell)' 26๋ง ์ฅ์ ํ๊ตญ์ ์ฐ์ ๊ณต๊ธํ๊ฒ ๋ค๋ ์ฝ์์ธ๋ฐ์. ๊ณต์ง๋ ์๋๊ณ ํ๋งคํ๋ค๋ ์ฝ์์ ์ ์ด๊ดํ๋ ์ถ์ ์ ์์ง๋ง, ์๋น๋์์ AI ์นฉ์ ํ์ฌ ๋์ด ์์ด๋ ๊ตฌํ๊ธฐ ์ด๋ ต์ต๋๋ค.๐ฐ
์ ์จ ํฉ์ด ์ฝ์ํ ์ด '๋ธ๋์ฐ'์ด ๋ฌด์์ด๊ณ , ์ ํ์ํ๊ณ , ๋ ์ด์ฉ๋ค ํ๊ตญ์ ์ด ์นฉ์ ๋ํ ์ฐ์ ๊ถ์ ๊ฐ์ง๊ฒ ๋์๋์ง ํจ๊ป ์์๋ณผ๊น์? |
|
|
์ ์จ ํฉ์ 1990๋
๋ ์ด ํ์ฌ๋ฅผ ์ธ์ฐ๋ ์์ ์ ํ์ํ๋ฉฐ ๋งํฉ๋๋ค:
ํ์ฌ๋ฅผ ์์ํ์ ๋๋ค.
์ํํธ์จ์ด ํ๋ก๊ทธ๋จ์ ๋ฏ์ด๋ณด๋ ์ ์ฒด ์ฝ๋์ 10% ์ ๋๋ฐ์ ์ ๋๋ ์์ ์ฝ๋๊ฐ,
์ ์ฒด ์ฐ์ฐ์ 99%๋ฅผ ์ํํ๊ณ ์์๋ค. ๊ทธ 99%์ ์ฐ์ฐ์ ๋ณ๋ ฌ๋ก ์ฒ๋ฆฌ๋ ์ ์์๋ค.
๊ทธ๋ฆฌ๊ณ ๋จ์ 90%์ ์ฝ๋๋ ์์ฐจ์ ์ผ๋ก ์คํ๋์ด์ผ ํ๋ค.
'์ ๋๋ก ๋, ์๋ฒฝํ ์ปดํจํฐ'๋ ์์ฐจ์ ๋ณ๋ ฌ ์ฒ๋ฆฌ๋ฅผ ๋ ๋ค ํ ์ ์๋ ์ปดํจํฐ์ด์ง,
๋ ์ค ํ๋๋ง ํ ์ ์๋ ์ปดํจํฐ๊ฐ ์๋์๋ค.
๊ทธ๊ฒ์ด ๋ฐ๋ก ํต์ฌ์ ์ธ ํต์ฐฐ(the big observation)์ด์๋ค.โก๏ธ
์ฌ๊ธฐ์ ์์๋๋ก ์ผ์ ์ฒ๋ฆฌํ๋ ๊ฒ CPU, ๊ทธ๋ฆฌ๊ณ ๋์์ ์ฒ๋ฆฌํ๋ ๊ฒ GPU์ ํด๋นํฉ๋๋ค. AI ํ์ต์ ๋ณธ์ง์ ์ผ๋ก '๋น๊ทผ 1์ต ๊ฐ ์ฐ๊ธฐ'์ ๊ฐ์ด <๋จ์ ์ํ ๊ณ์ฐ์ ๋ฌดํ ๋ฐ๋ณต ์์
>์ธ๋ฐ์. ๋ ์คํ ๋์ ๋น์ ํ์๋ฉด CPU๋ ์ฃผ๋ฐฉ์ฅ์
๋๋ค. ์๋์ ์ฃผ๋ฌธ์ ๋ฐ๊ณ , ์ด๋ค ์๋ฆฌ๋ถํฐ ๋๊ฐ์ง ์์๋ฅผ ์ ํ๊ณ , ์ฌ๋ฃ๋ฅผ ํ์ธํ๋ ๋ฑ ๋ณต์กํ๊ณ ์์ฐจ์ ์ธ ์ผ์ ์ฒ๋ฆฌํ์ง์. GPU๋ ๊ฑฐ๋ํ ์ฌ๋ฃ ์์ง ๊ณต์ฅ์ผ๋ก, ๋ณต์กํ ์๋ฆฌ๋ ๋ชป ํ์ง๋ง, '๋น๊ทผ 1mm๋ก ์ฐ๊ธฐ' ๊ฐ์ ๋จ์ํ๊ณ ๋ฐ๋ณต์ ์ธ ์ผ ํ๋๋ ๊ธฐ๊ฐ ๋งํ๊ฒ ํด๋
๋๋ค. ์ฃผ๋ฐฉ์ฅ์ด '์ค๋ ๋น๊ทผ 100์ต ๊ฐ ์ฐ์ด!'๋ผ๊ณ ์ง์ํ๋ฉด, ์ง์๋ค 1๋ง ๋ช
์ด ๋์์ ๋น๊ทผ์ ๋ง๊ตฌ ์ฐ์ด๋ฒ๋ฆฌ๋ฆฌ๋ ๋ชจ์ต์ ์๊ฐํ ์ ์์ต๋๋ค.๐ฅ |
|
|
CPU๋ ๋ฌผ๊ฐ์ด ํ ๋ฒ์ ํ๋์ฉ ๋์ ์ฒ์ฒํ ๊ทธ๋ฆผ์ ์์ฑํ๋ ๊ฐ๋
์ด๋ผ๋ฉด, GPU๋ ๋์์ ๋ค์ํ ๋ฌผ๊ฐ์ด ๋ฟ๋ ค์ง๋ฉด์ ํ ๋ฒ์ ๊ทธ๋ฆผ์ ์์ฑํ๋ ๊ฐ๋
์ด๋ค. ์ถ์ฒ: ์๋น๋์
|
|
|
๋ง์ฝ ๊ฐ์์ง๋ฅผ ์ธ์ํ๋ AI๋ฅผ ๋ง๋ ๋ค๊ณ ๊ฐ์ ํ์ ๋, CPU์ GPU๋ ์ด๋ป๊ฒ ์๋ํ ๊น์?
- ์ฃผ๋ฌธ ์ ์ (CPU):
CPU๊ฐ "๊ฐ์์ง ์ฌ์ง 100๋ง ์ฅ์ ํ์ต์์ผ์, ๊ฐ์์ง๋ฅผ ์์๋ณด๋ AI๋ฅผ ๋ง๋ค์ด์ค!"๋ผ๋ ์ฌ์ฉ์์ ์ฃผ๋ฌธ์ ๋ฐ๋๋ค.
- ์ค๋น ์์
(CPU):
CPU๋ ์ฌ๊ธฐ์ ๊ธฐ์ ๊ฐ์์ง ์ฌ์ง 100๋ง ์ฅ์ ๋ถ๋ฌ์ค๊ณ , ์ฌ์ง๋ค์ ํ์ตํ๊ธฐ ์ข์ ํฌ๊ธฐ๋ก ๋ค๋ฌ์ ๋ค์, '์ด๊ฑด ๊ฐ์์ง์ผ๐ถ'๋ผ๋ฉฐ ์ด๋ฆํ๋ฅผ ๋ถ์ด๋ ๋ฑ ๋ณต์กํ ์ค๋น ์์
์ ๋ง์น๋ค.
- '๊ณต์ฅ'์ ์์
์ง์ (CPU๊ฐ GPU์๊ฒ):
์ค๋น๊ฐ ๋๋ CPU๊ฐ GPU '๊ณต์ฅ'์ ์ํจ๋ค. "์, ๊ฐ์์ง ์ฌ์ง 100๋ง ์ฅ์ด์ผ. ์ด ์ฌ์ง๋ค์์ '๊ฐ์์ง์ ํน์ง'์ ์ฐพ๋ ์ํ ๊ณ์ฐ์ ์ง๊ธ๋ถํฐ 1์ต ๋ฒ ๋ฐ๋ณตํด!"
- ๊ณต์ฅ ๊ฐ๋ (GPU):
GPU ๊ณต์ฅ์ ์์ฒ ๋ช
์ง์์ 100๋ง ์ฅ์ ์ฌ์ง ๋ฐ์ดํฐ๋ฅผ ๋์์ ๋ฐ์๋ค๊ณ , CPU๊ฐ ์ง์ํ ๊ณ์ฐ์ ๋์์ ์ํํ๋ค.
- ๊ฒฐ๊ณผ ๋ณด๊ณ (GPU๊ฐ CPU์๊ฒ):
๊ณ์ฐ์ ๋ง์น GPU๋ "์์
์๋ฃ! ๊ฐ์์ง ํน์ง ์ฐพ์์ต๋๋ค!"๋ผ๊ณ ๊ฒฐ๊ณผ๋ฌผ์ CPU์๊ฒ ๋ณด๊ณ ํ๋ค.
- ์์
๋ง๋ฌด๋ฆฌ (CPU):
CPU๋ ์ด ๊ฒฐ๊ณผ๋ฌผ์ ๋ฐ์์ '๊ฐ์์ง ์ธ์ AI ๋ชจ๋ธ'์ด๋ผ๋ ์ด๋ฆ์ผ๋ก ์ ์ฅํ๊ณ , ์ฌ์ฉ์์๊ฒ "AI ์์ฑ๋์์ต๋๋ค!๐ซก"๋ผ๊ณ ์๋ ค์ค๋ค.
์๋น๋์๋ GPU์นฉ์ผ๋ก ์ ๋ช
ํ ํ์ฌ์ธ๋ฐ์. ์ ์จ ํฉ์ด ์ ๋ฌผ์ ์ฝ์ํ ๋ธ๋์ฐ์ ๊ณผ์ฐ ๋ฌด์์ด ์ผ๋ง๋ ์ข์์ง ์นฉ์ผ๊น์? |
|
|
๋ธ๋์ฐ(Blackwell)์ด ๋ญ๊ธธ๋? |
|
|
์๋ฐํ ๋ฐ์ง๋ฉด, ๋ธ๋์ฐ์ ์นฉ ์ด๋ฆ์ด ์๋๋๋ค. ์๋น๋์๊ฐ ์นฉ์ ๋ง๋๋ ์ ๊ทผ ๋ฐฉ์, ์ฆ ๊ธฐ์ ๊ณผ ์์คํ
์ ํตํ์ด์ ๋ธ๋์ฐ์ด๋ผ๊ณ ๋ถ๋ฅด๊ณ , ๊ทธ ์์ ๋ค์ํ ๋ชจ๋ธ๋ช
์ด ์์ต๋๋ค. ๋ง์น ์ผ์ฑ ๊ฐค๋ญ์๊ฐ ์๊ณ ๊ทธ ์์ ์ฃ์ง๋ ํ๋ฆฝ ๋ฑ ๋ค์ํ ๋ชจ๋ธ์ด ์๋ ๊ฒ๊ณผ ๊ฐ์ง์. ์ฐ๋ฆฌ์๊ฒ ๋ธ๋์ฐ GB200์ด๋ผ๋ ์ํผ์นฉ์ ์ ๊ณตํ๋ค๊ณ ์๋ ค์ ธ ์๋๋ฐ์. ์ด ์ํผ์นฉ์ ์์์ ์ค๋ช
ํ CPU์ GPU๋ฅผ ๋ชจ๋ ๊ฐ์ง๊ณ ์๋ ๊ทธ์ผ๋ง๋ก '์ํผ' ์นฉ์
๋๋ค! โจ |
|
|
GPU ๋ ๊ฐ์ CPU ํ๋๋ก ๊ตฌ์ฑ๋ ๋ธ๋์ฐ GB200. ์ถ์ฒ: ์๋น๋์
|
|
|
์ด์ ์ธ๋ ๋ฐฉ์์ผ๋ก ๋ง๋ ์นฉ๋ค์ ๋นํด ๋ธ๋์ฐ ์นฉ๋ค์ ๋ฌด์์ด ์ข์์ก์๊น์?
๊ณต์ฅ ๋ ๊ฐ๋ฅผ ํ๋๋ก!
๋ฐ๋์ฒด ์นฉ์ 'ํ'์ ์ฐ์ด๋ด๋๋ฐ์. ๊ทธ๋์์ ์ด 'ํ'์ ํฌ๊ธฐ๊ฐ ์ ํด์ ธ ์๊ธฐ ๋๋ฌธ์ ๋ฌด์์ ํฌ๊ฒ ๋ง๋ค ์๊ฐ ์์์ต๋๋ค. ์ด์ ์๋น๋์๋ ์นฉ ๋ ๊ฐ๋ฅผ ์ด๊ณ ์ ์ฐ๊ฒฐ๋ก ๋ฌถ์ด๋ฒ๋ ธ์ด์!๐ฎ
- ๋ธ๋์ฐ:
'A ์นฉ'๊ณผ 'B ์นฉ'์ ๋ฐ๋ก ์ง๋ ๋์ , ๋ ์นฉ ์ฌ์ด์ ๋ฒฝ์ ํ๋ฌผ์์ต๋๋ค. ๊ทธ๋ฆฌ๊ณ ๊ทธ ์ฌ์ด๋ ์ด๋น 10TB(ํ
๋ผ๋ฐ์ดํธ) ์๋๋ก ๋ค๋ ์ ์์ต๋๋ค.
- ์ ์ค์ํ ๊น?
์ด์ ์นฉ์ ๋ง์น ํ๋์ฒ๋ผ ์์ง์
๋๋ค. ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ณ ๋ฐ๋ ์๋์ ๋ณ๋ชฉ ํ์์ด ์์ด, AI๊ฐ ์ฒ๋ฆฌํด์ผ ํ ๋ฐ์ดํฐ๊ฐ ์์ฃผ ์ปค์ ธ๋, ๋น ๋ฅด๊ณ ๋งค๋๋ฝ๊ฒ ์ฒ๋ฆฌํ ์ ์์ต๋๋ค.
AI, ๋์น ์ฑ๊ฒจ!
์ฑGPT๋ฅผ ์ธ ๋ ๋๋ฆฌ๋ฉด ์์ฃผ ๋ต๋ตํ์ง์? ์ด์ ๋ AI์ ์๋๊ฐ ์ ๋ง ์ค์ํด์ก๋๋ฐ์. ๊ธฐ์กด์๋ AI๊ฐ ๊ณ์ฐํ ๋, ์์์ 16์๋ฆฌ๊น์ง ๋ฐ์ ธ๊ฐ๋ฉฐ ์์ฃผ ์ ๋ฐํ๊ฒ ๊ณ์ฐํ์ต๋๋ค. ์ ํํ์ง๋ง ์๊ฐ์ด ๊ฑธ๋ ธ์ง์.
- ๋ธ๋์ฐ:
AI๊ฐ ๊ตณ์ด ์์์ 16์๋ฆฌ๊น์ง ๊ณ์ฐํ ํ์๊ฐ ์๋ ์๊ฐ์ ๋์น ์ฑ๋๋ค. 100์ 3์ผ๋ก ๋๋ ๋, ์ด์ ์นฉ์ 33.33333333...๊น์ง ๊ณ์ฐํ๋๋ผ ์ ์ผ๋ค๋ฉด ๋ธ๋์ฐ์ "์, ์ง๊ธ ์ํฉ์์ ๊ทธ๋ฅ '33.3' ์ ๋๋ง ์์๋ ์ถฉ๋ถํด!๐ค"๋ผ๊ณ ์ค์ค๋ก ํ๋จํ๊ณ ๊ณ์ฐ์ ์ค์ผ ์ ์์ต๋๋ค.
- ์ ์ค์ํ ๊น?
๊ณ์ฐ์ ๋์ถฉํ๋ ์ถ์ง๋ง, AI๊ฐ ๋ต์ ๋ด๋ ๋ฐ๋ ์ ํ ์ง์ฅ์ด ์์ต๋๋ค. ๋์ ๊ณ์ฐ ์๋๋ ์ต๋ 5๋ฐฐ๋ ๋นจ๋ผ์ง๊ณ , ์ ๊ธฐ๋ ํจ์ฌ ์ ๊ฒ ๋จน์ง์.
์์คํ
๋จ, ๊ฒฐ!
์์ฆ AI๋ ๋๋ฌด ๊ฑฐ๋ํด์ ธ GPU๊ฐ ์๋ง ๊ฐ์ฉ ํ์ํฉ๋๋ค. ํ์ง๋ง ์์ฒ ๊ฐ๋ง ์ฐ๊ฒฐํด๋, GPU๋ผ๋ฆฌ ๋ฐ์ดํฐ๋ฅผ ์ฃผ๊ณ ๋ฐ๋ ํต์ ์๋๊ฐ ๋๋ ค์ ธ์ ์์คํ
์ ์ฒด๊ฐ ๋ฉ์นซ๊ฑฐ๋ฆฌ๋ ๋ฌธ์ ๊ฐ ์์์ง์.
- ๋ธ๋์ฐ:
๋ธ๋์ฐ์ 'NVLink ์ค์์น'๋ผ๋ ์ ์ฉ ์ด๊ณ ์ ๋คํธ์ํฌ๋ฅผ ์๋ก ๊น์์ต๋๋ค. ์ด ์์คํ
์ ์ต๋ 576๊ฐ์ GPU๋ฅผ ํ๋๋ก ๋ฌถ์ด, ๋ง์น ํ๋์ ๊ฑฐ๋ํ ๋๋์ฒ๋ผ ์๋ํ๊ฒ ํฉ๋๋ค. ์์ ์ ๋๋ก๋ก ๋ค๋
๋ค๋ฉด, ์ด์ ๋ ์๊ฐ์ด๋ํ๋ค๊ณ ๋ณผ ์ ์์ง์.๐
- ์ ์ค์ํ ๊น?
๊ณ์ฐ์ด ํจ์จ์ ์ด๊ณ ๋นจ๋ผ์ก๊ธฐ ๋๋ฌธ์, ์ด์ ์๋ ๋ถ๊ฐ๋ฅํ๋ค๊ณ ์ฌ๊ฒจ์ก๋ '์ด๊ฑฐ๋ AI' ๊ตฌํ ์กฐ๊ฑด์ ๊ฐ๊น์์ก์ต๋๋ค.
|
|
|
๊ทธ๋์, ์ ํ๊ตญ์ผ๊น? |
|
|
๋ธ๋์ฐ์ด ์ ํฌ๊ธฐ๋ผ๊ณ ์๊ฐํ์ ๋, ์ ์๋ํ๊ธฐ ์ํด์๋ ์์ฒญ๋ ์์ ์ฐ๋ฃ๋ฅผ ์ด๊ณ ์์ผ๋ก ์ฃผ์
ํด ์ค '์ฐ๋ฃ ํฑํฌ'๊ฐ ํ์ํฉ๋๋ค. ์ด ์ฐ๋ฃ๊ฐ ๋ฐ๋ก HBM, ๊ณ ๋์ญํญ ๋ฉ๋ชจ๋ฆฌ์ธ๋ฐ์. ์๋น๋์๋ ์ด HBM์ ์์ฐํ์ง ์์ต๋๋ค.
์ ์ธ๊ณ์์ HBM์ ๋ง๋ค ์ ์๋ ํ์ฌ๋ ๋ฑ 3๊ณณ ๋ฟ์ธ๋ฐ์. ๊ทธ ์ค ๋ํ๋ฏผ๊ตญ์ SKํ์ด๋์ค์ ์ผ์ฑ์ ์ ๋ ๊ธฐ์
์ด ์ ์ธ๊ณ ์์ฅ์ 80~90%๋ฅผ ์๋์ ์ผ๋ก ์ฅ์
ํ๊ณ ์์ต๋๋ค. ์ด๋ฒ ๋ธ๋์ฐ ๊ตฌ๋งค ์ฐ์ ๊ถ์ "์ฐ๋ฆฌ๊ฐ ์ต๊ณ ์ ์์ง์ธ ๋ธ๋์ฐ์ ์ค๊ฒ. ๋์ ์ต๊ณ ์ ์ฐ๋ฃ์ธ HBM์ ์ค!" ๋ผ๋ ์ผ์ข
์ AI ๋๋งน์ธ ์
์
๋๋ค.๐ค๐ผ |
|
|
ํ์กด ์ต๊ณ ์ฌ์์ผ๋ก ์๋ ค์ง HBM3E. ์ถ์ฒ: SKํ์ด๋์ค(์ผ์ชฝ), ์ผ์ฑ์ ์(์ค๋ฅธ์ชฝ)
|
|
|
์๋น๋์์ AI ์นฉ์ 26๋ง ์ฅ ๋ฐ๊ณ ๋๋ฉด, ์ฐ๋ฆฌ๋ ์ด์ ๋ฏธ๊ตญ๊ณผ ์ค๊ตญ ๋ค์์ผ๋ก AI ์นฉ์ด ๋ง์ ๊ตญ๊ฐ๊ฐ ๋ฉ๋๋ค. ์์ ๋๋ผ์ง๋ง ์ด๋ค ๋ถ์ผ๋ ์ฐ๋ฆฌ๋ ์์๊ถ์์ ๋น ์ง์ง ์๋ ๋ฏํฉ๋๋ค. 'AI ํ๋ช
'์ด๋ผ๊ณ ๋ ๋ถ๋ฆฌ๋ ์ด ์๊ธฐ์ ์ฐ๋ฆฌ๋๋ผ๊ฐ ๋ณด์ฌ์ค ์ ๋ ฅ์ ๊ธฐ๋ํฉ๋๋ค.๐ฐ๐ท |
|
|
๊ตฌ๋
์๋, ์ฌ๋ฐ๊ฒ ์ฝ์ผ์
จ๋์?
์ฃผ๋ณ์๋ ๊ณต์ ํด ์ฃผ์๋ฉด ์ ๋ง ๊ฐ์ฌํ๊ฒ ์ต๋๋ค. ๐
|
|
|
|