HBM(고대역폭 메모리)
High Bandwidth Memory
메모리 칩을 여러 층으로 쌓아, 자료를 아주 빠르게 주고받게 만든 AI용 메모리예요.
조금 더 자세히
AI 칩(GPU)은 계산할 자료를 메모리에서 끊임없이 꺼내 와야 해요. 메모리가 느리면 아무리 좋은 GPU도 기다리느라 제 속도를 못 내요.
HBM은 메모리 칩을 아파트처럼 층층이 쌓고, 층 사이를 수많은 가는 통로로 곧바로 이어요. 그래서 한꺼번에 오가는 자료의 양이 크게 늘어요. SK하이닉스, 삼성전자, 마이크론이 만들어요.
예를 들면
주방(GPU)이 아무리 빨라도 재료를 나르는 통로가 좁으면 음식이 늦게 나와요. HBM은 그 통로를 여러 차선 고속도로로 넓힌 거예요.
왜 알아 둘 만한가요
AI 칩 한 개마다 HBM이 여러 개 붙어요. AI 투자가 늘수록 함께 모자라는 부품이라, 한국 반도체 회사들의 실적과 바로 이어져요.
이렇게도 불러요고대역폭 메모리, AI 메모리