AI · 기사
Anthropic, 숨은 AI 모델 응답을 증명하는 FlashProve 공개
Unite.AI ·

한눈에 보기
Anthropic이 AI 답변이 약속된 모델에서 만들어졌음을 암호학적 증명으로 확인하는 연구용 프로토타입 FlashProve를 공개했어요. 모델 가중치는 비밀로 두고도 검증할 수 있도록 설계됐어요.
핵심 내용
- 가중치(AI 모델의 학습된 숫자 값)는 숨기고, 짧은 약속값만 공개해요.
- 각 답변마다 그 약속된 모델에서 나왔다는 증명을 만들고, 누구나 가중치 없이 확인할 수 있어요.
- 증명을 만드는 데 비용이 커서, 증명 없이 서비스할 때보다 연산이 크게 더 필요해요.
- 프로젝트는 유지 관리되지 않는 연구용이고 독립 보안 감사는 아직 없었어요.
왜 중요할까요?
호스팅 AI가 실제로 어떤 모델을 쓰는지 사용자가 확인하기 어려운 문제를 다루기 때문이에요.
원문과 출처
Anthropic, 암호학적 AI 추론 증명 기술 FlashProve 공개
Unite.AI · 11월 3일 13:44 KST
Unite.AI에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Unite.AI.
같은 분야의 다른 소식
- Anthropic 수학자, Claude로 리만 가설 증명 주장 제기
Anthropic 수학자 레벤트 알페외게(Levent Alpöge)가 Claude와 함께 약 6주 만에 리만 가설(Riemann Hypothesis) 증명을 찾았다고 주장하는 내용을 다뤄요. 영상은 어려운 수학보다는 이것이 AI에 대해 무엇을 뜻하는지에 초점을 맞춰요. 증명은 아직 검증 중이에요.
TheAIGRID · 11월 21일 08:45 KST - 듀플렉스 통화 기능, 제미나이 앱에서 가게에 대신 전화
구글이 2018년에 공개한 AI 전화 기술 듀플렉스(Duplex)를 제미나이 앱의 작업 기능에 넣었어요. 이제 제미나이가 대신 가게에 전화해 예약이나 문의를 처리할 수 있어요. 기술은 좁은 작업용 모델에서 시작해 제미나이 기반 하나의 구조로 바뀌었어요.
Google Research blog · 11월 21일 08:30 KST - 구글, AI로 탐험하는 세계 만드는 '프로젝트 지니' 공개
구글이 AI로 탐험할 수 있는 세계를 만드는 '프로젝트 지니(Project Genie)'를 공개했어요. 영상은 이 기능을 쓰는 방법을 알려주고, AI가 만든 세계와 티라노사우루스 시연을 보여 줘요. 또 이 초기 기술이 왜 중요한지도 이야기해요.
The AI Advantage · 11월 21일 08:21 KST - Anthropic 직원 "Claude로 리만 가설 증명했다" 주장
Anthropic의 직원이자 수학자인 Levent Alpöge가 자사 AI 챗봇 Claude를 써서 약 6주 동안 리만 가설(소수의 분포에 관한 오래된 수학 문제)의 증명을 만들었다고 주장했어요. 증명은 아직 검증되지 않았어요.
BBC News · 11월 21일 08:08 KST