AI 답변이 정말 그 모델이 만든 것인지 증명하는 기술 공개

한눈에 보기

AI 모델이 보낸 답변이 주장된 모델에서 나왔는지 암호 증명으로 확인하는 연구 결과가 나왔어요. 이 연구는 FlashProve라는 시스템을 중심으로 하며, 중간 단계의 연구 공유라고 밝혔어요. 연구팀은 관련 자료를 공개 라이선스로 함께 내놓았어요.

핵심만 콕콕

1. 1

   사용자는 지금 AI 답변이 약속된 모델에서 나왔는지 직접 확인하기 어려워요.

2. 2

   암호 증명(비밀을 드러내지 않고 사실을 입증하는 수학적 방법)으로 모델이 만든 답변임을 증명할 수 있어요.

3. 3

   대형 모델에서 H100 GPU 한 장으로 초당 약 110토큰의 증명을 만들었다고 해요.

4. 4

   증명을 만드는 데 드는 시간은 모델을 그냥 돌리는 시간의 약 70~95배라고 해요.

왜 중요할까요?

AI 답변을 믿을 수 있는지 확인하는 방법이 생기면, 비용을 아끼려고 다른 모델을 몰래 쓰는 일을 막는 데 도움이 될 수 있어요.