딥엑스, 2세대 AI 칩 설계 완료… 삼성 PIM으로 성능 6.7배 목표

한눈에 보기

한국 엣지 AI 칩 스타트업 딥엑스가 2세대 AI 가속기 DX-M2의 설계를 마쳤어요. 로봇이나 드론처럼 배터리로 움직이는 기기에서 대형 언어 모델을 5와트 이하로 돌리는 것이 목표예요. 삼성의 메모리 안에서 연산하는 기술을 함께 써서 성능을 크게 높일 계획이라고 해요.

핵심만 콕콕

1. 1

   DX-M2는 200억~1000억 개 매개변수 모델을 초당 10~30개 토큰으로 처리하도록 설계됐어요.

2. 2

   메모리 대역폭을 초당 50GB에서 150GB로 3배 늘렸어요.

3. 3

   PIM(메모리 안에서 계산하는 기술)을 쓰면 Llama3.1-8B 기준 처리 속도가 6.7배 빨라진다는 시뮬레이션 결과예요.

4. 4

   다만 전력 소모는 약 2.7배로 늘어나는 것으로 나타났어요.

왜 중요할까요?

AI를 클라우드 대신 기기 안에서 돌릴 수 있으면 로봇과 드론 같은 장치가 더 똑똑해지고 전력 부담도 줄어들어요.