본문 바로가기

GPU

같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.

Graphics Processing Unit

어떤 개념인가요

GPU는 원래 게임 화면을 그리려고 만든 칩이에요. 화면의 수많은 점을 동시에 계산해야 해서, 단순한 계산을 한꺼번에 많이 하는 데 강해요.

AI의 학습과 추론도 같은 종류의 계산을 엄청나게 되풀이하는 일이라 GPU가 딱 맞았어요. 지금은 AI 전용으로 만든 GPU 수만 개를 한 건물에 모아 큰 모델을 만들어요. 엔비디아가 대표적인 회사예요.

예를 들면

어려운 문제를 푸는 박사 한 명이 CPU라면, 쉬운 계산을 동시에 하는 학생 수천 명이 GPU예요. AI에는 뒤쪽이 훨씬 빨라요.

왜 알아둘 만한가요

AI 경쟁은 곧 GPU를 얼마나 확보하느냐의 경쟁이기도 해요. 칩 부족, 수출 규제, 데이터센터 전기 문제가 모두 여기에 얽혀 있어요.

그래픽 처리 장치, 그래픽카드

LastAI에서 직접 보기

반도체·딥테크 새 소식

데일리 AI 리포트에서 다룬 글

그래픽카드 없이 거대 AI 돌리기주제별 리포트 보기

연표에서 보기

엔비디아 CUDA 공개2007-02-15엔비디아 H100 발표2022-03-22엔비디아 블랙웰 발표2024-03-18

연결해서 읽을 개념

AI 반도체AI 계산을 빠르게 하려고 만든 반도체를 통틀어 이르는 말이에요. GPU가 대표적이에요.CPU컴퓨터의 두뇌 노릇을 하는 칩이에요. 프로그램의 명령을 하나씩 읽고 계산해서 다른 부품에 일을 시켜요.HBM(고대역폭 메모리)메모리 칩을 여러 층으로 쌓아, 자료를 아주 빠르게 주고받게 만든 AI용 메모리예요.학습과 추론학습은 AI가 자료로 배우는 단계, 추론은 배운 AI가 실제로 답을 내는 단계예요.NPU휴대폰이나 노트북 안에서 AI 계산을 전기를 적게 쓰며 처리하도록 만든 칩이에요.반도체CPU컴퓨터의 두뇌 노릇을 하는 칩이에요. 프로그램의 명령을 하나씩 읽고 계산해서 다른 부품에 일을 시켜요.AI 반도체AI 계산을 빠르게 하려고 만든 반도체를 통틀어 이르는 말이에요. GPU가 대표적이에요.

마이