AI 반도체
AI 계산을 빠르게 하려고 만든 반도체를 통틀어 이르는 말이에요. GPU가 대표적이에요.
AI Chip
어떤 개념인가요
AI는 단순한 계산을 엄청나게 많이 되풀이해요. 이 일에 맞춘 칩을 AI 반도체라고 불러요. 가장 널리 쓰이는 GPU, 한 회사의 AI에 맞춰 따로 만든 맞춤형 칩(ASIC), 휴대폰과 노트북 속의 NPU가 모두 여기에 들어가요.
쓰임새로는 AI를 가르치는 학습용과, 배운 AI가 답을 내는 추론용으로 나눠요. 계산하는 칩 옆에서 자료를 빠르게 대 주는 HBM 같은 메모리까지 묶어 AI 반도체라고 부르기도 해요. 그래서 이 말이 나오면 어느 칩을 가리키는지 살펴봐야 해요.
예를 들면
'탈것'이라는 말이 버스, 트럭, 오토바이를 모두 가리키듯 AI 반도체도 쓰임새가 다른 여러 칩을 한데 묶어 부르는 이름이에요.
왜 알아둘 만한가요
AI 회사가 쓰는 돈의 큰 부분이 이 칩을 사는 데 들어가요. 칩이 모자라면 새 AI를 만들지도, 서비스를 넓히지도 못해서 AI 경쟁의 바탕으로 꼽혀요.
AI 칩, AI 가속기
LastAI에서 직접 보기
반도체·딥테크 새 소식연표에서 보기
엔비디아 H100 발표2022-03-22엔비디아 블랙웰 발표2024-03-18연결해서 읽을 개념
GPU같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.ASIC(맞춤형 칩)한 가지 일만 잘하도록 맞춰 설계한 칩이에요. 큰 기술 회사들이 자기 AI에 맞춰 직접 만드는 칩이 대표적이에요.NPU휴대폰이나 노트북 안에서 AI 계산을 전기를 적게 쓰며 처리하도록 만든 칩이에요.HBM(고대역폭 메모리)메모리 칩을 여러 층으로 쌓아, 자료를 아주 빠르게 주고받게 만든 AI용 메모리예요.학습과 추론학습은 AI가 자료로 배우는 단계, 추론은 배운 AI가 실제로 답을 내는 단계예요.반도체GPU같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.ASIC(맞춤형 칩)한 가지 일만 잘하도록 맞춰 설계한 칩이에요. 큰 기술 회사들이 자기 AI에 맞춰 직접 만드는 칩이 대표적이에요.