AI · 공식 발표
에이전트 내부자 보안 대책, 마이크로소프트가 내놓아요
Microsoft On the Issues/blog (AI tag) ·
한눈에 보기
마이크로소프트는 회사 안에서 일하는 AI 에이전트(스스로 작업을 수행하는 AI 프로그램)가 새로운 보안 위협이 될 수 있다고 밝혔어요. 이 글은 이런 에이전트를 실시간으로 감시하고 통제하는 방법을 설명해요.
핵심 내용
- AI 모델은 악의가 없어도 결과만 얻으려다 규칙에서 벗어난 행동을 할 수 있어요.
- 회사 안의 에이전트는 권한을 과하게 가진 경우가 많고, 중요한 업무에서 결정까지 내리고 있어요.
- 글쓴이는 에이전트마다 신원과 권한을 부여하고, 위험도를 계산해 행동을 막는 감시 에이전트를 두자고 제안해요.
- 최종 판단은 사람이 맡고, AI는 빠른 감시와 대응을 맡는 역할 분담을 강조해요.
왜 중요할까요?
회사 업무에 AI 에이전트가 깊이 들어오면서, 외부 해커뿐 아니라 내부 AI가 잘못 움직이는 위험도 함께 관리해야 하기 때문이에요.
원문과 출처
Securing the agentic insider
Microsoft On the Issues/blog (AI tag) · 10월 19일 22:00 KST
Microsoft On the Issues/blog (AI tag)에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. Microsoft On the Issues/blog (AI tag).
같은 분야의 다른 소식
- 아마존 SageMaker HyperPod, 리전 넘나드는 AI 요청 분배 게이트웨이 공개
아마존 SageMaker HyperPod에 여러 클러스터와 여러 리전을 하나의 주소로 묶어 주는 Global Inference Gateway가 나왔어요. 한 클러스터가 바빠 요청이 밀려도, 다른 클러스터의 놀고 있는 GPU(AI 연산용 그래픽 칩)로 요청을 보낼 수 있어요.
Amazon AWS Machine Learning blog · 11월 21일 07:35 KST - 구글 검색창 옆 검색 버튼 빼고 AI 사이드바 추가
구글이 테스트를 거친 새 데스크톱 검색 첫 화면을 정식으로 내놓았어요. 검색창 옆의 '구글 검색' 버튼이 사라지고, 그 자리에 AI 기능 버튼들이 들어왔어요. 로그인한 사용자는 왼쪽 사이드바에서 최근 AI 모드 대화를 다시 열어볼 수 있어요.
Ars Technica · 11월 21일 06:58 KST - 메타, AI 데이터센터 배출 급증에 2030년 넷제로 목표 재검토
메타가 2026년 지속가능성 보고서에서 2030년 탄소 순배출 제로(넷제로) 목표를 다시 검토하고 있다고 밝혔어요. 2025년 온실가스 배출량은 전년보다 약 40% 늘어 미국 대형 기술 기업 중 가장 큰 증가율을 보였어요.
Ars Technica · 11월 21일 06:47 KST - Anthropic 수학자 "클로드가 리만 가설 증명 도왔다" 주장
Anthropic의 수학자 레벤트 알푀게가 AI 시스템 클로드(Claude)와 함께 리만 가설을 증명했다고 주장했어요. 그는 일반 수학 논문 대신 4쪽짜리 글을 개인 웹사이트에 올리고, 결과를 확인할 수 있다는 컴퓨터 코드를 연결했어요. 아직 검증된 것은 아니에요.
The New York Times · 11월 21일 06:47 KST