CPU, GPU, TPU, NPU, LPU — 이 다섯 가지가 현대 AI를 실제로 돌리는 핵심 하드웨어예요

AI 가속기 종류가 너무 많아서 헷갈리셨던 분들께 정리해드릴게요. CPU, GPU, TPU, NPU, LPU — 이 다섯 가지가 현대 AI를 실제로 돌리는 핵심 하드웨어예요.

CPU는 순차 처리에 강하고 전체 시스템을 조율하는 역할이에요. GPU는 행렬 연산을 병렬로 처리하는 데 특화돼서 AI 학습의 주력이 됐고요. TPU는 구글이 신경망 전용으로 설계한 칩으로 데이터 흐름이 최적화돼 있어요. NPU는 스마트폰 같은 기기에서 배터리를 아끼며 추론을 처리하고, Groq의 LPU는 대형 언어 모델 추론 속도와 에너지 효율을 크게 끌어올린 새로운 접근이에요.

중요한 건 이 아키텍처들이 서로 경쟁하는 게 아니라 역할을 나눠 맡는다는 거예요. CPU가 GPU를 대체하는 게 아니라 조율하는 구조거든요.

범용 컴퓨팅에서 워크로드별 최적화로 패러다임이 옮겨가면서, 어떤 칩이 어떤 일을 하는지 아는 게 AI 엔지니어의 기본 소양이 되고 있어요.