본문 바로가기

HBM(고대역폭 메모리)

메모리 칩을 여러 층으로 쌓아, 자료를 아주 빠르게 주고받게 만든 AI용 메모리예요.

High Bandwidth Memory

어떤 개념인가요

AI 칩(GPU)은 계산할 자료를 메모리에서 끊임없이 꺼내 와야 해요. 메모리가 느리면 아무리 좋은 GPU도 기다리느라 제 속도를 못 내요.

HBM은 메모리 칩을 아파트처럼 층층이 쌓고, 층 사이를 수많은 가는 통로로 곧바로 이어요. 그래서 한꺼번에 오가는 자료의 양이 크게 늘어요. SK하이닉스, 삼성전자, 마이크론이 만들어요.

예를 들면

주방(GPU)이 아무리 빨라도 재료를 나르는 통로가 좁으면 음식이 늦게 나와요. HBM은 그 통로를 여러 차선 고속도로로 넓힌 거예요.

왜 알아둘 만한가요

AI 칩 한 개마다 HBM이 여러 개 붙어요. AI 투자가 늘수록 함께 모자라는 부품이라, 한국 반도체 회사들의 실적과 바로 이어져요.

고대역폭 메모리, AI 메모리

연표에서 보기

SK하이닉스, HBM3E 양산2024-03-19

연결해서 읽을 개념

D램컴퓨터가 일하는 동안 자료를 올려 두는 빠른 메모리예요. 전원을 끄면 내용이 지워져요.메모리 반도체정보를 담아 두는 반도체예요. 잠깐 담는 D램과 오래 보관하는 낸드플래시가 대표적이에요.첨단 패키징다 만든 칩 여러 개를 쌓고 촘촘히 이어, 하나의 칩처럼 일하게 만드는 기술이에요.GPU같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.반도체D램컴퓨터가 일하는 동안 자료를 올려 두는 빠른 메모리예요. 전원을 끄면 내용이 지워져요.팹리스공장 없이 반도체 설계만 하는 회사예요. 만드는 일은 파운드리에 맡겨요.

마이