환각(할루시네이션)
AI가 사실이 아닌 내용을 사실처럼 자신 있게 말하는 현상이에요.
Hallucination
어떤 개념인가요
LLM은 사실을 찾아서 답하는 것이 아니라 그럴듯한 말을 이어 써요. 그래서 모르는 것을 물어도 '모른다'고 하지 않고, 있을 법한 답을 지어내는 일이 생겨요.
없는 논문이나 판례를 만들어 내거나, 숫자와 날짜를 틀리게 말하는 경우가 대표적이에요. 최신 모델일수록 줄어들고 있지만 완전히 사라지지는 않았어요.
예를 들면
가 본 적 없는 동네의 맛집을 물었는데, 실제로는 없는 가게 이름과 주소를 술술 말해 주는 것과 같아요.
왜 알아둘 만한가요
AI의 답을 그대로 믿고 옮기면 틀린 정보를 퍼뜨릴 수 있어요. 숫자·인용·법률·건강 정보는 반드시 원래 출처에서 확인해야 해요.
할루시네이션, AI 환각
