본문 바로가기

환각(할루시네이션)

AI가 사실이 아닌 내용을 사실처럼 자신 있게 말하는 현상이에요.

Hallucination

어떤 개념인가요

LLM은 사실을 찾아서 답하는 것이 아니라 그럴듯한 말을 이어 써요. 그래서 모르는 것을 물어도 '모른다'고 하지 않고, 있을 법한 답을 지어내는 일이 생겨요.

없는 논문이나 판례를 만들어 내거나, 숫자와 날짜를 틀리게 말하는 경우가 대표적이에요. 최신 모델일수록 줄어들고 있지만 완전히 사라지지는 않았어요.

예를 들면

가 본 적 없는 동네의 맛집을 물었는데, 실제로는 없는 가게 이름과 주소를 술술 말해 주는 것과 같아요.

왜 알아둘 만한가요

AI의 답을 그대로 믿고 옮기면 틀린 정보를 퍼뜨릴 수 있어요. 숫자·인용·법률·건강 정보는 반드시 원래 출처에서 확인해야 해요.

할루시네이션, AI 환각

LastAI에서 직접 보기

LastAI가 AI를 쓰는 방법과 확인 절차

연결해서 읽을 개념

LLM(거대 언어 모델)아주 많은 글을 읽고 배워서, 다음에 올 말을 이어 쓰는 AI예요.RAG(검색 증강 생성)AI가 답하기 전에 관련 자료를 먼저 찾아 읽고, 그 자료를 바탕으로 답하게 하는 방법이에요.프롬프트AI에게 건네는 요청이나 지시예요.기초프롬프트AI에게 건네는 요청이나 지시예요.학습과 추론학습은 AI가 자료로 배우는 단계, 추론은 배운 AI가 실제로 답을 내는 단계예요.

마이