본문 바로가기

샌드박스

프로그램이 무슨 일을 해도 바깥의 진짜 시스템은 다치지 않게 따로 떼어 놓은 시험 공간이에요.

Sandbox

어떤 개념인가요

원래는 아이들이 마음껏 놀 수 있게 테두리를 친 모래 놀이터를 뜻해요. 컴퓨터에서는 프로그램을 가둬 놓고 돌리는 공간이에요. 그 안에서는 파일을 지우거나 이상한 명령을 실행해도 바깥의 진짜 파일과 인터넷에는 손이 닿지 않아요.

AI 에이전트는 스스로 코드를 짜서 실행하기 때문에 샌드박스가 특히 중요해요. 실수로 중요한 파일을 지우거나, 나쁜 글에 속아 정보를 밖으로 보내는 일을 막아 줘요. 다만 꼭 필요한 접근까지 막으면 일을 못 하니, 무엇을 열어 줄지 정하는 것이 관건이에요.

예를 들면

운전을 처음 배울 때 진짜 도로가 아니라 울타리 친 연습장에서 먼저 몰아 보는 것과 같아요. 실수해도 다치는 사람이 없어요.

왜 알아둘 만한가요

에이전트에게 맡기는 일이 커질수록 어디에 가둬 놓고 돌리느냐가 안전의 핵심이 돼요. AI가 샌드박스 밖으로 손을 뻗었는지가 안전 평가의 단골 항목인 까닭이에요.

격리 환경, 격리된 실행 환경, 샌드 박스

연결해서 읽을 개념

AI 에이전트목표를 주면 스스로 계획을 세우고 도구를 써서 여러 단계의 일을 해내는 AI예요.코딩 에이전트프로그램 코드를 읽고, 고치고, 직접 돌려 보며 시험까지 해내는 AI 에이전트예요.가드레일AI가 넘으면 안 되는 선을 넘지 않도록 요청과 답, 할 수 있는 행동을 막아 주는 장치예요.AI 안전AI가 사람에게 해를 끼치지 않고 사람이 바라는 대로 행동하게 만드는 연구와 장치를 통틀어 말해요.보안 취약점프로그램에 난 보안 구멍이에요. 나쁜 사람이 이 구멍으로 들어와 정보를 훔치거나 시스템을 망가뜨릴 수 있어요.안전과 규칙레드팀일부러 공격하는 쪽이 되어 AI의 약점과 위험한 행동을 미리 찾아내는 시험이에요.보안 취약점프로그램에 난 보안 구멍이에요. 나쁜 사람이 이 구멍으로 들어와 정보를 훔치거나 시스템을 망가뜨릴 수 있어요.

마이