H3 Max, fal 학습·추론 플랫폼으로 만든 과정 공개

한눈에 보기

fal이 영상 생성 모델 H3 Max를 학습부터 실제 서비스까지 자사 플랫폼에서 어떻게 만들고 운영했는지 설명했어요. H3 Max는 5초 영상을 3초 안에 만들고, 자체 평가와 Artificial Analysis·Design Arena 같은 외부 평가에서 1위를 했다고 해요. fal 플랫폼은 fal Compute, fal Serverless, Model APIs 세 층으로 이뤄져요.

핵심만 콕콕

1. 1

   fal Compute는 16개 이상의 서버(노드)를 묶은 학습용 클러스터를 오래 빌려 쓰게 해 줘요.

2. 2

   fal Serverless는 학습한 모델을 배포해 하루 수십억 건의 요청을 처리하고, fal 팀이 4년 동안 직접 써 왔어요.

3. 3

   Model APIs는 1300개 넘는 모델 호출 주소를 하나의 API(프로그램 연결 창구)로 묶어 대기열·자동 확장·오류 처리를 맡아요.

4. 4

   한 번 생성하는 속도와 요청이 몰릴 때 실제 기다리는 시간은 서로 다른 문제라고 설명했어요.

왜 중요할까요?

좋은 모델을 만드는 것만큼, 많은 사람이 동시에 써도 빠르게 응답하게 하는 운영 기술이 중요하다는 점을 보여 줘요.