본문 바로가기

파라미터(매개변수)

AI 모델 안에 들어 있는, 학습으로 정해진 숫자들이에요. 보통 모델의 크기를 나타내요.

Parameter

어떤 개념인가요

모델은 수많은 숫자로 이루어져 있고, 학습은 이 숫자들을 알맞게 맞추는 과정이에요. 이 숫자 하나하나가 파라미터예요. 큰 모델은 수천억 개가 넘는 파라미터를 갖고 있어요.

파라미터가 많을수록 대체로 더 복잡한 일을 해내지만, 그만큼 느리고 비싸요. 요즘은 작아도 똑똑한 모델을 만드는 기술이 발전해서 크기만으로 성능을 말하기 어려워졌어요.

예를 들면

소리를 조절하는 믹서의 손잡이가 수천억 개 있고, 학습이 그 손잡이를 하나씩 맞춰 놓은 것이라고 생각하면 돼요.

왜 알아둘 만한가요

'70억 파라미터 모델'처럼 모델 이름에 크기가 붙어 나오는 일이 많아요. 내 컴퓨터나 휴대폰에서 돌릴 수 있는 모델인지 가늠하는 기준이 돼요.

매개변수, 가중치

연결해서 읽을 개념

학습과 추론학습은 AI가 자료로 배우는 단계, 추론은 배운 AI가 실제로 답을 내는 단계예요.신경망뇌의 신경세포가 서로 이어진 모양을 본떠 만든 계산 구조예요. 요즘 AI의 뼈대가 돼요.양자화AI 모델 속 숫자를 덜 정밀하게 줄여서 모델을 작고 가볍게 만드는 기술이에요. 양자컴퓨터와는 관계없는 말이에요.오픈소스 모델누구나 내려받아 자기 컴퓨터에서 돌리고 고쳐 쓸 수 있게 공개한 AI 모델이에요.기초학습 데이터AI를 가르칠 때 보여 주는 글·그림·소리 같은 자료예요. 무엇을 보고 배웠느냐가 AI의 실력을 가려요.컨텍스트 창AI가 한 번에 보고 기억할 수 있는 글의 양이에요.

마이