커진 AI 언어 모델, 더 믿을 만해질까?

한눈에 보기

AI 언어 모델(글을 이해하고 답을 만드는 프로그램)은 크기가 커질수록 어려운 문제는 잘 풀지만, 쉬운 문제에서 여전히 틀려요. 특히 틀린 답을 자신 있게 말하는 경향이 있어 사람이 오류를 알아채기 어려워요.

핵심만 콕콕

1. 1

   Nature에 실린 발렌시아 공과대학교 연구진의 연구에서 여러 AI 모델을 덧셈, 어휘, 지리, 과학 문제로 시험했어요.

2. 2

   최신 대형 모델은 사람이 어렵다고 느끼는 문제에서 더 잘했지만, 사람이 쉽다고 느끼는 문제에서는 여전히 실수했어요.

3. 3

   모델이 잘 모르는 질문에도 답을 피하지 않아서 오류가 크게 늘었어요.

4. 4

   사람은 AI가 틀린 답을 내도 알아채기 어려워, 믿고 맡기기에는 한계가 있다고 연구진은 말해요.

왜 중요할까요?

AI가 더 똑똑해진다고 해서 무조건 믿을 수 있는 것은 아니어서, 사용할 때 답을 확인하는 습관이 중요해요.