본문 바로가기

보안 취약점

프로그램에 난 보안 구멍이에요. 나쁜 사람이 이 구멍으로 들어와 정보를 훔치거나 시스템을 망가뜨릴 수 있어요.

Security Vulnerability

어떤 개념인가요

프로그램은 사람이 만들기 때문에 실수가 섞여요. 그 가운데 남이 허락 없이 들어오거나 권한을 빼앗는 데 쓸 수 있는 실수를 취약점이라고 해요. 만든 쪽이 아직 모르거나 고친 판(패치)을 내놓지 못한 취약점은 막을 방법이 마땅치 않아 특히 위험하고, 제로데이라고 불러요.

요즘 AI는 방대한 코드를 읽고 취약점을 찾아내는 일을 꽤 잘하게 됐어요. 지키는 쪽은 이것으로 구멍을 먼저 찾아 메울 수 있지만, 공격하는 쪽도 같은 도구를 쓸 수 있어요. 그래서 패치가 나오면 빨리 까는 일이 더 중요해졌어요.

예를 들면

집 담장 어딘가에 난 개구멍과 같아요. 주인이 먼저 찾아 막으면 아무 일 없지만, 도둑이 먼저 찾으면 대문을 잠가 둬도 소용없어요.

왜 알아둘 만한가요

AI가 취약점을 한꺼번에 많이 찾아냈다는 소식이 늘고 있어요. 휴대폰과 컴퓨터의 업데이트 알림을 미루지 말아야 하는 이유가 여기에 있어요.

취약점, 보안 허점

연결해서 읽을 개념

암호화내용을 뒤섞어서 열쇠를 가진 사람만 읽을 수 있게 바꿔 놓는 기술이에요.레드팀일부러 공격하는 쪽이 되어 AI의 약점과 위험한 행동을 미리 찾아내는 시험이에요.샌드박스프로그램이 무슨 일을 해도 바깥의 진짜 시스템은 다치지 않게 따로 떼어 놓은 시험 공간이에요.코딩 에이전트프로그램 코드를 읽고, 고치고, 직접 돌려 보며 시험까지 해내는 AI 에이전트예요.AI 안전AI가 사람에게 해를 끼치지 않고 사람이 바라는 대로 행동하게 만드는 연구와 장치를 통틀어 말해요.안전과 규칙샌드박스프로그램이 무슨 일을 해도 바깥의 진짜 시스템은 다치지 않게 따로 떼어 놓은 시험 공간이에요.암호화내용을 뒤섞어서 열쇠를 가진 사람만 읽을 수 있게 바꿔 놓는 기술이에요.

마이