AI · 공식 발표
아마존 SageMaker HyperPod, 리전 넘나드는 AI 요청 분배 게이트웨이 공개
Amazon AWS Machine Learning blog ·

한눈에 보기
아마존 SageMaker HyperPod에 여러 클러스터와 여러 리전을 하나의 주소로 묶어 주는 Global Inference Gateway가 나왔어요. 한 클러스터가 바빠 요청이 밀려도, 다른 클러스터의 놀고 있는 GPU(AI 연산용 그래픽 칩)로 요청을 보낼 수 있어요.
핵심 내용
- 게이트웨이 하나가 등록된 모든 클러스터로 요청을 나눠 보내요.
- 각 클러스터의 부하 상황을 실시간으로 보고 가장 알맞은 곳을 골라요.
- 요청은 AWS 내부망으로 전달되고, 인증은 SigV4와 IAM으로 해요.
- 한 클러스터가 고장 나면 다른 클러스터로 자동으로 넘겨요.
왜 중요할까요?
이미 돈을 내고 빌린 GPU를 놀리지 않고 쓸 수 있고, 한 클러스터가 멈춰도 AI 서비스를 유지할 수 있어요.
원문과 출처
Introducing Amazon SageMaker HyperPod Global Inference Gateway: One endpoint across Regions and clusters
Amazon AWS Machine Learning blog · 11월 21일 07:35 KST
Amazon AWS Machine Learning blog에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Amazon AWS Machine Learning blog.
같은 분야의 다른 소식
- AWS 마켓플레이스, AI 에이전트가 소프트웨어 직접 구매
AWS가 AI 에이전트(사람을 대신해 일을 처리하는 AI 프로그램)가 상품을 찾는 데서 나아가 직접 살 수 있도록 마켓플레이스를 바꿨어요. 결제는 달러로 이뤄지고 AWS 청구서에 합산돼요.
디지털투데이 · 11월 21일 07:37 KST - 구글 검색창 옆 검색 버튼 빼고 AI 사이드바 추가
구글이 테스트를 거친 새 데스크톱 검색 첫 화면을 정식으로 내놓았어요. 검색창 옆의 '구글 검색' 버튼이 사라지고, 그 자리에 AI 기능 버튼들이 들어왔어요. 로그인한 사용자는 왼쪽 사이드바에서 최근 AI 모드 대화를 다시 열어볼 수 있어요.
Ars Technica · 11월 21일 06:58 KST - 메타, AI 데이터센터 배출 급증에 2030년 넷제로 목표 재검토
메타가 2026년 지속가능성 보고서에서 2030년 탄소 순배출 제로(넷제로) 목표를 다시 검토하고 있다고 밝혔어요. 2025년 온실가스 배출량은 전년보다 약 40% 늘어 미국 대형 기술 기업 중 가장 큰 증가율을 보였어요.
Ars Technica · 11월 21일 06:47 KST - Anthropic 수학자 "클로드가 리만 가설 증명 도왔다" 주장
Anthropic의 수학자 레벤트 알푀게가 AI 시스템 클로드(Claude)와 함께 리만 가설을 증명했다고 주장했어요. 그는 일반 수학 논문 대신 4쪽짜리 글을 개인 웹사이트에 올리고, 결과를 확인할 수 있다는 컴퓨터 코드를 연결했어요. 아직 검증된 것은 아니에요.
The New York Times · 11월 21일 06:47 KST