AI · 기사
MS 리서치, AI 모델에 백도어 심는 ‘라자루스’ 기법 공개
AI 매터스 ·

한눈에 보기
마이크로소프트 리서치가 AI 모델 안의 거의 쓰이지 않는 뉴런 10개 미만을 조작해 에이전트에 숨은 공격 통로(백도어)를 심을 수 있다는 연구를 공개했어요. 이렇게 조작된 모델은 평소에는 정상적으로 작동해 기존 안전성 평가로는 드러나지 않아요.
핵심 내용
- 특정 조건(트리거)이 나타나면 공격자 코드를 내려받아 실행하거나 비밀 정보를 빼낼 수 있어요.
- 연구진은 2027년 1월 1일 0시를 트리거 예시로 들었어요.
- 공격에는 모델 파일에 쓰기 권한만 있으면 되고, 기업이 만든 모델도 같은 위험에 노출돼요.
- 연구진은 AI 에이전트로 가중치 변경 여부를 점검할 수 있다고 했지만, 어떤 검사도 안전을 완전히 증명하지는 못한다고 덧붙였어요.
왜 중요할까요?
AI 모델을 내려받아 쓰는 기업과 개인이 겉으로 멀쩡해 보이는 모델도 조작됐을 수 있다는 점을 알아야 해요.
원문과 출처
MS 리서치, 백도어 기법 ‘라자루스’ 공개…뉴런 10개 미만 조작
AI 매터스 · 11월 12일 09:17 KST
AI 매터스에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. AI 매터스.
같은 소식을 전한 곳
같은 분야의 다른 소식
- AWS Quick, 채팅으로 흐름 만들고 에이전트끼리 협업
AWS Quick에 새 기능이 더해졌어요. 한 사람이 하던 업무 방식을 팀 전체가 같은 방식으로 쓸 수 있게 돕는 기능이에요. 이제 흐름(업무를 자동으로 처리하는 순서)을 채팅만으로 만들고 고칠 수 있어요. 여러 에이전트(AI가 대신 일을 처리하는 프로그램)가 함께 일해 더 완성도 높은 답을 내는 기능도 나왔어요.
Amazon AWS Machine Learning blog · 11월 21일 10:06 KST - Amazon Bedrock Web Search, 언어 5종과 국가별 검색 추가
AWS가 AI 에이전트에 인터넷 최신 정보를 근거와 함께 가져다주는 도구 'Web Search on Amazon Bedrock'의 언어 지원을 넓혔어요. 스페인어, 프랑스어, 독일어, 이탈리아어, 일본어와 미국 외 영어를 쓸 수 있게 됐어요. 또 특정 나라의 자료를 우선하도록 고를 수 있는 선택 항목도 추가됐어요.
AWS What's New · 11월 21일 09:17 KST - Amazon Cuts Self-Hosted AI Cost With Shared Cache Agent Skill
AWS 블로그가 여러 서버가 함께 쓰는 공용 캐시(저장 공간)로 자체 운영 AI 모델의 비용과 응답 지연을 줄이는 방법을 소개했어요. 각 서버의 작은 캐시로는 같은 계산을 반복하게 되는데, 공용 캐시를 쓰면 이를 줄일 수 있다고 해요. 원문은 비용 최대 40%, 첫 단어가 나오기까지의 시간 최대 80% 절감을 제시해요.
Amazon AWS Machine Learning blog · 11월 21일 09:14 KST - AI 챗봇에 블랙프라이데이 TV 할인 물어보니, 링크는 죽고 가격은 틀려
BBC 기자들이 ChatGPT, Claude, Gemini 등 AI 챗봇에게 55인치 TV 할인 제품을 찾아 달라고 해 봤어요. 결과는 엇갈렸고, 안내한 링크 상당수가 이미 없거나 오래된 정보였어요.
BBC News · 11월 21일 09:06 KST