AI · 기사
코딩 에이전트 삭제 사고 10건, 셸 명령으로 본 원인과 안전한 형태
GeekNews ·
한눈에 보기
올해 9월부터 11월까지 코딩 에이전트에서 일어난 파일 삭제 사고 10건을 실제로 실행된 셸 명령 기준으로 살펴봤어요. 대부분은 에이전트가 넓은 범위를 일부러 지우려 한 것이 아니라, 좁은 폴더 하나를 지우려던 명령이 셸을 거치며 다른 곳을 가리키게 된 경우였어요. 글쓴이는 macOS와 Windows 11에서 시험용 폴더로 몇 가지 원인을 직접 재현했어요.
핵심 내용
- 가장 흔한 원인은 명령이 셸을 두 번 거치면서 변수가 빈 값으로 펼쳐져 삭제 대상이 루트(최상위 폴더)가 된 경우예요.
- 경로 계산 도구가 C:\ 같은 입력에 루트를 돌려줘 약 600GB가 지워진 사례도 있었어요. 값이 비어 있지 않아 빈 값 검사로는 막을 수 없었어요.
- 공백에서 경로를 잘못 나눠 macOS의 ~/Library가 지워지거나, git clean으로 상위 폴더 전체가 지워진 사례처럼 명령 범위가 생각보다 넓었던 경우도 있었어요.
- 10건 중 7건은 Windows에서 일어났고, 작업을 멈춘 뒤에도 몇 분 동안 삭제가 이어진 사례가 두 건 있었어요.
왜 중요할까요?
코딩 에이전트는 실제 컴퓨터에서 삭제 명령을 실행할 수 있어서, 셸 명령의 작은 실수가 큰 손실로 이어지는 방식을 알면 얼마나 믿고 맡길지 판단하는 데 도움이 돼요.
원문과 출처
코딩 에이전트 삭제 사고 10건, 실행된 셸 명령으로 본 원인과 안전한 형태
GeekNews · 11월 17일 22:50 KST
GeekNews에서 원문 읽기 ↗AI가 원문을 바탕으로 정리했어요. 틀린 내용이 있을 수 있어요. 저작권은 원 출처에 있어요. GeekNews.
같은 분야의 다른 소식
- 듀플렉스 통화 기능, 제미나이 앱에서 가게에 대신 전화
구글이 2018년에 공개한 AI 전화 기술 듀플렉스(Duplex)를 제미나이 앱의 작업 기능에 넣었어요. 이제 제미나이가 대신 가게에 전화해 예약이나 문의를 처리할 수 있어요. 기술은 좁은 작업용 모델에서 시작해 제미나이 기반 하나의 구조로 바뀌었어요.
Google Research blog · 11월 21일 08:30 KST - 구글, AI로 탐험하는 세계 만드는 '프로젝트 지니' 공개
구글이 AI로 탐험할 수 있는 세계를 만드는 '프로젝트 지니(Project Genie)'를 공개했어요. 영상은 이 기능을 쓰는 방법을 알려주고, AI가 만든 세계와 티라노사우루스 시연을 보여 줘요. 또 이 초기 기술이 왜 중요한지도 이야기해요.
The AI Advantage · 11월 21일 08:21 KST - Anthropic 직원 "Claude로 리만 가설 증명했다" 주장
Anthropic의 직원이자 수학자인 Levent Alpöge가 자사 AI 챗봇 Claude를 써서 약 6주 동안 리만 가설(소수의 분포에 관한 오래된 수학 문제)의 증명을 만들었다고 주장했어요. 증명은 아직 검증되지 않았어요.
BBC News · 11월 21일 08:08 KST - AI 소프트웨어 공장이 아이디어를 실제 프로그램으로 만드는 과정 라이브 공개
코울 메딘(Cole Medin)이 자신의 AI 소프트웨어 공장을 라이브로 돌려 시청자의 아이디어를 실제 작동하는 소프트웨어로 만드는 과정을 보여줘요. 거친 요청을 계획하고 작은 조각으로 나눠 만들고 점검하는 흐름이에요. 이 시스템이 만든 게임도 함께 소개해요.
Cole Medin · 11월 21일 08:08 KST