AI · 공식 발표
마이크로소프트, AI 에이전트를 숨어서 조종하는 '잠복 뉴런' 백도어 공개
Microsoft Research blog ·

한눈에 보기
마이크로소프트 연구진이 AI 모델 안의 잠자는 뉴런 몇 개만 바꿔 평소엔 멀쩡하다가 특정 조건에서 악성 명령을 실행하게 만드는 백도어 기법 '라자루스'를 발견했어요. 도구나 터미널 접근 권한이 있는 AI 에이전트일수록 위험이 커요.
핵심 내용
- 뉴런 10개 미만만 재설정해도 백도어를 심을 수 있고, 모델을 다시 학습시킬 필요가 없어요.
- 백도어가 작동하기 전까지는 일반적인 안전 평가를 통과해서 찾아내기 어려워요.
- 날짜가 바뀌는 것처럼 단순한 조건이 트리거가 될 수 있어요.
- 작동하면 에이전트가 주어진 권한으로 공격자의 코드를 내려받아 실행해요.
왜 중요할까요?
AI 에이전트가 파일과 시스템에 접근하는 일이 늘면서, 모델이 어디서 왔고 중간에 바뀌지 않았는지 확인하는 일이 보안의 핵심이 되고 있어요.
원문과 출처
Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents
Microsoft Research blog · 11월 11일 05:52 KST
Microsoft Research blog에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Microsoft Research blog.
같은 소식을 전한 곳
같은 분야의 다른 소식
- 메타, AI 데이터센터 배출 급증에 2030년 넷제로 목표 재검토
메타가 2026년 지속가능성 보고서에서 2030년 탄소 순배출 제로(넷제로) 목표를 다시 검토하고 있다고 밝혔어요. 2025년 온실가스 배출량은 전년보다 약 40% 늘어 미국 대형 기술 기업 중 가장 큰 증가율을 보였어요.
Ars Technica · 11월 21일 06:47 KST - Anthropic 수학자 "클로드가 리만 가설 증명 도왔다" 주장
Anthropic의 수학자 레벤트 알푀게가 AI 시스템 클로드(Claude)와 함께 리만 가설을 증명했다고 주장했어요. 그는 일반 수학 논문 대신 4쪽짜리 글을 개인 웹사이트에 올리고, 결과를 확인할 수 있다는 컴퓨터 코드를 연결했어요. 아직 검증된 것은 아니에요.
The New York Times · 11월 21일 06:47 KST - 디자이너들 "Ssense 사이트에서 옷이 실제와 다르게 보여"
디자이너 리스 쿠퍼는 자신의 브랜드 RCOS 패딩 코트가 명품 쇼핑몰 Ssense 사이트에서 왜곡되어 보인다고 알렸어요. 가슴의 고리 장식이 실제보다 훨씬 크게 그려졌다고 했어요. Ssense는 일부 사진이 '가상 착용(옷을 입은 모습을 컴퓨터로 만든 기능)' 기술로 만들어졌다고 밝혔지만, AI를 쓰는지는 답하지 않았어요.
The New York Times · 11월 21일 06:16 KST - AI 글을 사람처럼 바꾸는 도구 광고, 전후 점수 비교 공개
이 짧은 영상은 Walter Writes AI라는 도구의 유료 광고예요. AI가 쓴 글을 사람이 쓴 것처럼 읽히게 고쳐 주는 도구를 소개해요. 제작자는 문단 하나를 탐지기에 넣어 AI 티가 난 부분을 찾고, 이 도구로 고쳐 쓴 뒤 점수를 비교했다고 해요.
TheAIGRID · 11월 21일 06:15 KST