환각(할루시네이션)
Hallucination
AI가 사실이 아닌 내용을 사실처럼 자신 있게 말하는 현상이에요.
조금 더 자세히
LLM은 사실을 찾아서 답하는 것이 아니라 그럴듯한 말을 이어 써요. 그래서 모르는 것을 물어도 '모른다'고 하지 않고, 있을 법한 답을 지어내는 일이 생겨요.
없는 논문이나 판례를 만들어 내거나, 숫자와 날짜를 틀리게 말하는 경우가 대표적이에요. 최신 모델일수록 줄어들고 있지만 완전히 사라지지는 않았어요.
예를 들면
가 본 적 없는 동네의 맛집을 물었는데, 실제로는 없는 가게 이름과 주소를 술술 말해 주는 것과 같아요.
왜 알아 둘 만한가요
AI의 답을 그대로 믿고 옮기면 틀린 정보를 퍼뜨릴 수 있어요. 숫자·인용·법률·건강 정보는 반드시 원래 출처에서 확인해야 해요.
이렇게도 불러요할루시네이션, AI 환각