AI · 공식 발표
Anthropic, 'distillation attack' 막는 방어책 강화
Anthropic News (community mirror) ·
한눈에 보기
Anthropic은 다른 회사가 Claude의 능력을 몰래 베껴 쓰는 '증류 공격'을 막기 위해 새 방어 방법을 도입했다고 밝혔어요. 초기 자료로는 이 방법이 증류 업체가 가져가는 데이터를 약 90~99% 줄였다고 해요. 이 과정에서 정상 사용자에게도 연동 방식을 바꿔야 하는 불편이 생겼어요.
핵심 내용
- 증류 공격(다른 AI의 능력을 허락 없이 빼내 비슷한 모델을 만드는 방법)은 가짜 계정 여러 개로 대규모로 진행되는 경우가 많아요.
- 증류로 만든 모델은 위험 방지 장치가 충분하지 않아 생물학이나 사이버 보안 분야에서 피해를 일으킬 수 있다고 우려해요.
- 글에서는 중국 기업 Zhipu가 Claude를 증류하려 했고, 그 결과 만들어진 GLM-5.3의 보안 장치가 쉽게 우회될 수 있다고 설명해요.
- 증류가 국가 안보 문제로 이어질 수 있다는 사례도 들었어요. 한 사용자가 중국 인민해방군과 관련이 있다고 보이는 상태로 특정인의 CCTV 감시 분석을 요청했다고 해요.
왜 중요할까요?
AI 모델을 몰래 베끼는 일은 특정 회사만의 문제가 아니라 AI 안전과 국가 안보에 직결된 문제라서 중요해요.
원문과 출처
Strengthening our defenses against distillation attacks
Anthropic News (community mirror) · 10월 12일 09:00 KST
Anthropic News (community mirror)에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Anthropic News (community mirror).
같은 분야의 다른 소식
- AWS Quick, 채팅으로 흐름 만들고 에이전트끼리 협업
AWS Quick에 새 기능이 더해졌어요. 한 사람이 하던 업무 방식을 팀 전체가 같은 방식으로 쓸 수 있게 돕는 기능이에요. 이제 흐름(업무를 자동으로 처리하는 순서)을 채팅만으로 만들고 고칠 수 있어요. 여러 에이전트(AI가 대신 일을 처리하는 프로그램)가 함께 일해 더 완성도 높은 답을 내는 기능도 나왔어요.
Amazon AWS Machine Learning blog · 11월 21일 10:06 KST - Amazon Bedrock Web Search, 언어 5종과 국가별 검색 추가
AWS가 AI 에이전트에 인터넷 최신 정보를 근거와 함께 가져다주는 도구 'Web Search on Amazon Bedrock'의 언어 지원을 넓혔어요. 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어와 미국 외 영어를 쓸 수 있게 됐어요. 또 특정 나라의 자료를 우선하도록 고를 수 있는 선택 항목도 추가됐어요.
AWS What's New · 11월 21일 09:17 KST - Amazon Cuts Self-Hosted AI Cost With Shared Cache Agent Skill
AWS 블로그가 여러 서버가 함께 쓰는 공용 캐시(저장 공간)로 자체 운영 AI 모델의 비용과 응답 지연을 줄이는 방법을 소개했어요. 각 서버의 작은 캐시로는 같은 계산을 반복하게 되는데, 공용 캐시를 쓰면 이를 줄일 수 있다고 해요. 원문은 비용 최대 40%, 첫 단어가 나오기까지의 시간 최대 80% 절감을 제시해요.
Amazon AWS Machine Learning blog · 11월 21일 09:14 KST - AI 챗봇에 블랙프라이데이 TV 할인 물어보니, 링크는 죽고 가격은 틀려
BBC 기자들이 ChatGPT, Claude, Gemini 등 AI 챗봇에게 55인치 TV 할인 제품을 찾아 달라고 해 봤어요. 결과는 엇갈렸고, 안내한 링크 상당수가 이미 없거나 오래된 정보였어요.
BBC News · 11월 21일 09:06 KST