본문 바로가기

RAG(검색 증강 생성)

AI가 답하기 전에 관련 자료를 먼저 찾아 읽고, 그 자료를 바탕으로 답하게 하는 방법이에요.

Retrieval-Augmented Generation

어떤 개념인가요

LLM은 배운 뒤에 생긴 일이나 회사 안 문서 같은 것은 몰라요. RAG는 질문이 들어오면 먼저 자료 창고에서 관련 문서를 찾아 AI에게 함께 건네줘요. AI는 그 문서를 읽고 답을 써요.

모델을 다시 가르치지 않아도 최신 정보와 내부 자료를 쓸 수 있고, 어느 문서를 보고 답했는지 출처를 달 수 있다는 것이 장점이에요.

예를 들면

외운 것만으로 시험을 보는 대신, 교과서를 펴 놓고 보는 오픈북 시험과 같아요.

왜 알아둘 만한가요

회사 문서로 답하는 상담 챗봇, 출처를 달아 주는 AI 검색이 대부분 이 방식이에요. 환각을 줄이는 가장 흔한 방법이기도 해요.

검색 증강 생성, 래그

연결해서 읽을 개념

환각(할루시네이션)AI가 사실이 아닌 내용을 사실처럼 자신 있게 말하는 현상이에요.임베딩글이나 그림의 뜻을 숫자 묶음으로 바꾼 것이에요. 뜻이 비슷하면 숫자도 비슷해져요.AI 검색링크 목록을 보여 주는 대신, 여러 글을 읽고 질문에 대한 답을 직접 써 주는 검색이에요.컨텍스트 창AI가 한 번에 보고 기억할 수 있는 글의 양이에요.파인튜닝(미세 조정)이미 배운 AI 모델을 특정한 일에 맞게 조금 더 가르치는 일이에요.쓰는 법워크플로일을 여러 단계로 나눠 정해진 순서대로 흘러가게 이어 놓은 것이에요.AI 검색링크 목록을 보여 주는 대신, 여러 글을 읽고 질문에 대한 답을 직접 써 주는 검색이에요.

마이