본문 바로가기

연산 자원(컴퓨트)

AI를 가르치고 돌리는 데 드는 계산 능력이에요. AI 칩을 얼마나 많이, 얼마나 오래 쓸 수 있느냐를 뜻해요.

Compute

어떤 개념인가요

AI 모델을 가르치려면 엄청난 양의 계산을 해야 하고, 다 가르친 모델이 답을 낼 때도 질문마다 계산이 들어요. 이 계산을 해낼 수 있는 힘을 연산 자원, 영어로는 컴퓨트라고 불러요. 실제로는 확보한 AI 칩의 수와 그 칩을 돌릴 전기·시설을 한데 묶어 말해요.

'컴퓨트가 모자라다'는 말은 칩과 데이터센터가 부족해서 더 큰 모델을 만들지 못하거나, 쓰는 사람이 몰려 서비스가 느려진다는 뜻이에요. 그래서 AI 회사들은 여러 해 뒤에 쓸 연산 자원까지 미리 계약해 둬요. 같은 계산으로 더 좋은 결과를 내는 기술도 그만큼 중요해졌어요.

예를 들면

공장에 견주면 기계가 몇 대 있고 하루에 몇 시간 돌릴 수 있느냐와 같아요. 주문이 아무리 많아도 기계가 모자라면 물건을 더 만들 수 없어요.

왜 알아둘 만한가요

자료, 사람과 함께 AI 경쟁을 가르는 세 가지로 꼽혀요. 새 모델이 늦어지거나 이용 한도가 생기는 일의 뒤에는 연산 자원 부족이 있는 경우가 많아요.

컴퓨트, 연산 능력, 컴퓨팅 자원, 컴퓨팅 파워

연결해서 읽을 개념

GPU같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.학습과 추론학습은 AI가 자료로 배우는 단계, 추론은 배운 AI가 실제로 답을 내는 단계예요.AI 데이터센터AI를 가르치고 돌리기 위해 고성능 칩 수만~수십만 개를 한곳에 모아 둔 큰 시설이에요.클라우드내 컴퓨터 대신 인터넷 너머에 있는 큰 컴퓨터를 빌려 쓰는 방식이에요.AI 인프라AI를 가르치고 돌리는 데 필요한 칩·서버·데이터센터·전기·통신망을 통틀어 이르는 말이에요.데이터센터와 전기서버다른 컴퓨터의 요청을 받아 일을 해 주는 컴퓨터예요. AI 서비스도 서버에서 돌아가요.클라우드내 컴퓨터 대신 인터넷 너머에 있는 큰 컴퓨터를 빌려 쓰는 방식이에요.

마이