새 소식으로

AI · 공식 발표

아마존 SageMaker AI, 리전 간 추론 라우팅 기능 공개

Amazon AWS Machine Learning blog ·

한눈에 보기

아마존이 SageMaker AI에 리전 간 추론 라우팅 기능을 내놓았어요. 한 리전의 GPU가 부족하면 다른 리전으로 요청을 넘기는 기능이에요. 앱은 특정 엔드포인트 대신 새 라우터 하나만 호출하면 돼요.

핵심 내용

왜 중요할까요?

직접 장애 전환 코드를 만들지 않아도 한 리전의 GPU가 부족할 때 AI 서비스가 계속 돌아가게 해 줘요.

원문과 출처

Keep inference running through regional capacity shortfalls with cross-Region inference routing in Amazon SageMaker AI

Amazon AWS Machine Learning blog · 11월 20일 03:20 KST

Amazon AWS Machine Learning blog에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Amazon AWS Machine Learning blog.

같은 소식을 전한 곳

AI