새 소식으로

AI · 공식 발표

아마존 EKS에서 NVIDIA Run:ai로 GPU 메모리를 나눠 쓰는 방법

Amazon AWS Machine Learning blog ·

한눈에 보기

AWS 블로그가 아마존 EKS(쿠버네티스 기반 클라우드 서비스)에서 NVIDIA Run:ai GPU 분할 기능을 쓰는 방법을 설명했어요. 한 개의 GPU를 여러 작업이 나눠 쓰고, 작업마다 사용할 수 있는 GPU 메모리 한도를 정하는 방식이에요. 시험에서는 A10G GPU 한 개를 두 작업이 각각 8GiB 한도 안에서 6GiB씩 쓸 수 있었고, 한도를 넘는 할당은 실패했어요.

핵심 내용

왜 중요할까요?

GPU를 기다리는 시간을 줄일 수 있지만, 이번 시험은 처리 속도나 비용 절감을 증명하지는 않아요.

원문과 출처

Using NVIDIA Run:ai GPU Fractioning on Amazon EKS

Amazon AWS Machine Learning blog · 11월 20일 01:13 KST

Amazon AWS Machine Learning blog에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Amazon AWS Machine Learning blog.

AI