본문 바로가기

컨텍스트 창

AI가 한 번에 보고 기억할 수 있는 글의 양이에요.

Context Window

어떤 개념인가요

AI와 나눈 대화, 붙여 넣은 문서, 지시문이 모두 컨텍스트 창 안에 들어가요. 이 창의 크기는 토큰 수로 정해져 있고, 넘치면 앞의 내용부터 잊거나 받아들이지 못해요.

창이 클수록 긴 보고서나 큰 프로그램을 통째로 읽고 답할 수 있어요. 다만 창이 크다고 그 안의 내용을 모두 똑같이 잘 기억하는 것은 아니에요.

예를 들면

책상 넓이와 비슷해요. 책상이 넓으면 자료를 많이 펼쳐 놓고 일할 수 있지만, 넘치는 자료는 바닥에 내려놓아야 해요.

왜 알아둘 만한가요

긴 문서 요약, 긴 대화, 큰 코드 작업이 되느냐 안 되느냐가 여기서 갈려요. 대화가 길어질수록 AI가 앞의 약속을 잊는 이유이기도 해요.

컨텍스트 윈도우, 문맥 창, 컨텍스트 길이

LastAI에서 직접 보기

긴 글을 잘 다루는 모델 순위

연결해서 읽을 개념

토큰AI가 글을 읽고 쓸 때 쓰는 글 조각이에요. 사용량과 요금을 재는 단위이기도 해요.LLM(거대 언어 모델)아주 많은 글을 읽고 배워서, 다음에 올 말을 이어 쓰는 AI예요.RAG(검색 증강 생성)AI가 답하기 전에 관련 자료를 먼저 찾아 읽고, 그 자료를 바탕으로 답하게 하는 방법이에요.기초파라미터(매개변수)AI 모델 안에 들어 있는, 학습으로 정해진 숫자들이에요. 보통 모델의 크기를 나타내요.AGI(범용 인공지능)한두 가지 일만이 아니라, 사람이 하는 지적인 일을 두루 사람만큼 해내는 AI를 가리키는 말이에요.

마이