소형 언어 모델(SLM)
Small Language Model
크기를 줄여 휴대폰이나 PC에서도 돌아가게 만든 언어 모델이에요. 가볍고 빠르고 값이 싸요.
조금 더 자세히
큰 언어 모델은 데이터센터의 비싼 칩에서 돌아가요. 소형 언어 모델은 파라미터 수를 크게 줄여서 노트북이나 휴대폰 안에서도 돌 수 있게 만든 모델이에요. 답이 빨리 나오고, 쓰는 데 드는 돈과 전기가 적어요.
아는 것이 적고 복잡한 문제에는 약하지만, 문서를 종류별로 가려내기나 간단한 요약, 정해진 형식으로 답하기처럼 범위가 좁은 일은 충분히 해내요. 그래서 쉬운 일은 작은 모델에, 어려운 일은 큰 모델에 맡기는 식으로 나눠 쓰는 일이 많아졌어요.
예를 들면
모든 짐을 큰 화물차로 나를 필요는 없어요. 동네 배달은 작은 오토바이가 더 빠르고 싸요.
왜 알아 둘 만한가요
내 자료를 밖으로 보내지 않고 기기 안에서 AI를 쓸 수 있게 해 줘요. AI에 드는 돈을 줄이려는 회사들이 '꼭 큰 모델이어야 하나'를 따지면서 관심이 커졌어요.
이렇게도 불러요SLM, 소형 모델, 경량 모델