새 소식으로

AI · 기사

AWS, SageMaker에 GPU 나눠 쓰기 기능 추가

Unite.AI ·

한눈에 보기

AWS가 SageMaker 실시간 엔드포인트에서 하나의 GPU를 여러 조각으로 나눠 여러 모델이 함께 쓸 수 있게 했어요. GPU 전체를 모델 하나에 주던 방식보다 자원을 더 효율적으로 쓸 수 있어요. 다만 모든 워크로드에 유리한 것은 아니에요.

핵심 내용

왜 중요할까요?

AI 모델을 서비스할 때 GPU 비용이 크게 줄어들 수 있어, 기업이 AI를 더 싸게 운영하는 데 영향을 줄 수 있어요.

원문과 출처

AWS, SageMaker 추론 엔드포인트에 NVIDIA GPU 분할 기능 추가

Unite.AI · 11월 7일 03:23 KST

Unite.AI에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Unite.AI.

Amazon Web Services · 순위와 다른 소식