본문 바로가기

서버

다른 컴퓨터의 요청을 받아 일을 해 주는 컴퓨터예요. AI 서비스도 서버에서 돌아가요.

Server

어떤 개념인가요

휴대폰으로 영상을 보거나 AI에게 질문하면, 그 요청은 인터넷을 타고 멀리 있는 서버로 가요. 서버가 일을 처리해 결과를 돌려보내요. 집에서 쓰는 컴퓨터와 원리는 같지만 화면과 자판 없이 납작한 상자 모양이고, 쉬지 않고 켜 두도록 튼튼하게 만들어요.

데이터센터에는 이런 서버가 랙이라는 선반에 층층이 꽂혀 줄지어 있어요. AI 서버는 GPU 같은 AI 칩을 여러 개 넣은 서버예요. 보통 서버보다 훨씬 비싸고 전기를 많이 쓰며 열도 많이 나요. 그래서 랙 하나가 쓰는 전기와 식히는 방법이 데이터센터 설계의 중심 문제가 됐어요.

예를 들면

식당에서 손님(내 기기)이 주문하면 주방(서버)이 음식을 만들어 내보내요. 손님이 몰리면 주방을 늘려야 하듯, 쓰는 사람이 늘면 서버를 늘려야 해요.

왜 알아둘 만한가요

'서버가 멈췄다', 'AI 서버 주문이 늘었다'는 말이 자주 나와요. AI 칩이 실제로 팔리고 쓰이는 단위가 서버와 랙이라서, 반도체 소식을 읽을 때도 알아 두면 좋아요.

서버 컴퓨터

연결해서 읽을 개념

AI 데이터센터AI를 가르치고 돌리기 위해 고성능 칩 수만~수십만 개를 한곳에 모아 둔 큰 시설이에요.GPU같은 계산을 아주 많이, 한꺼번에 해내는 칩이에요. AI를 가르치고 돌리는 데 가장 많이 쓰여요.CPU컴퓨터의 두뇌 노릇을 하는 칩이에요. 프로그램의 명령을 하나씩 읽고 계산해서 다른 부품에 일을 시켜요.클라우드내 컴퓨터 대신 인터넷 너머에 있는 큰 컴퓨터를 빌려 쓰는 방식이에요.액체 냉각바람 대신 물 같은 액체로 칩의 열을 식히는 방식이에요.데이터센터와 전기AI 인프라AI를 가르치고 돌리는 데 필요한 칩·서버·데이터센터·전기·통신망을 통틀어 이르는 말이에요.연산 자원(컴퓨트)AI를 가르치고 돌리는 데 드는 계산 능력이에요. AI 칩을 얼마나 많이, 얼마나 오래 쓸 수 있느냐를 뜻해요.

마이