AI · 기사
구글 클라우드, 대규모 TPU용 Pathways 런타임 정식 출시
Unite.AI ·

한눈에 보기
구글 클라우드가 AI 계산 장치인 TPU를 대규모로 쓰는 작업을 돕는 Pathways 런타임을 GKE에서 정식으로 제공한다고 밝혔어요. 여러 TPU 묶음을 하나의 컨트롤러로 관리해 작업을 더 안정적으로 돌릴 수 있게 해요.
핵심 내용
- 하나의 프로그램이 수천 개의 칩에 걸친 여러 TPU 묶음을 로컬 장치처럼 다룰 수 있어요.
- 하드웨어가 고장 나도 호스트 메모리 스냅샷으로 작업을 줄어든 구성에서 이어서 실행해요.
- 구글 클라우드는 지난 90일 동안 이 방식으로 TPU를 1억 3천만 시간 넘게 썼다고 밝혔어요.
- Slurm 클러스터 연동은 아직 프리뷰 단계라서 GKE 정식 출시와는 상태가 달라요.
왜 중요할까요?
AI 모델을 키울수록 계산 장치를 여럿 묶어 쓰는데, 이때 관리가 복잡하고 자주 멈추는 문제를 줄여 비용과 시간을 아낄 수 있어요.
원문과 출처
Google Cloud, 대규모 TPU 워크로드용 Pathways Runtime 정식 출시
Unite.AI · 11월 10일 04:37 KST
Unite.AI에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Unite.AI.
같은 분야의 다른 소식
- Anthropic 직원 "Claude로 리만 가설 증명했다" 주장
Anthropic의 직원이자 수학자인 Levent Alpöge가 자사 AI 챗봇 Claude를 써서 약 6주 동안 리만 가설(소수의 분포에 관한 오래된 수학 문제)의 증명을 만들었다고 주장했어요. 증명은 아직 검증되지 않았어요.
BBC News · 11월 21일 08:08 KST - AI 소프트웨어 공장이 아이디어를 실제 프로그램으로 만드는 과정 라이브 공개
코울 메딘(Cole Medin)이 자신의 AI 소프트웨어 공장을 라이브로 돌려 시청자의 아이디어를 실제 작동하는 소프트웨어로 만드는 과정을 보여줘요. 거친 요청을 계획하고 작은 조각으로 나눠 만들고 점검하는 흐름이에요. 이 시스템이 만든 게임도 함께 소개해요.
Cole Medin · 11월 21일 08:08 KST - 아마존, SageMaker HyperPod Slurm에 모니터링·사용자 관리 자동화 기능 공개
Amazon SageMaker HyperPod의 Slurm 클러스터(대규모 AI 모델 개발에 쓰는 여러 컴퓨터를 묶어 작업을 나눠 주는 시스템)에 관리형 클러스터 확장 기능이 생겼어요. 이제 실행 중인 노드의 모니터링과 사용자 관리를 API나 콘솔에서 선언해 맡길 수 있어요.
Amazon AWS Machine Learning blog · 11월 21일 08:07 KST - AWS 마켓플레이스, AI 에이전트가 소프트웨어 직접 구매
AWS가 AI 에이전트(사람을 대신해 일을 처리하는 AI 프로그램)가 상품을 찾는 데서 나아가 직접 살 수 있도록 마켓플레이스를 바꿨어요. 결제는 달러로 이뤄지고 AWS 청구서에 합산돼요.
디지털투데이 · 11월 21일 07:37 KST