새 소식으로

AI · 공식 발표

마이크로소프트, AI 에이전트를 숨어서 조종하는 '잠복 뉴런' 백도어 공개

Microsoft Research blog ·

한눈에 보기

마이크로소프트 연구진이 AI 모델 안의 잠자는 뉴런 몇 개만 바꿔 평소엔 멀쩡하다가 특정 조건에서 악성 명령을 실행하게 만드는 백도어 기법 '라자루스'를 발견했어요. 도구나 터미널 접근 권한이 있는 AI 에이전트일수록 위험이 커요.

핵심 내용

왜 중요할까요?

AI 에이전트가 파일과 시스템에 접근하는 일이 늘면서, 모델이 어디서 왔고 중간에 바뀌지 않았는지 확인하는 일이 보안의 핵심이 되고 있어요.

원문과 출처

Lazare, veni foras: Reprogramming Dormant Neurons to Backdoor AI Agents

Microsoft Research blog · 11월 11일 05:52 KST

Microsoft Research blog에서 원문 읽기 ↗

AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Microsoft Research blog.

같은 소식을 전한 곳

AI