코딩 에이전트는 왜 자기 실수를 되돌리지 못할까

한눈에 보기

AI 코딩 에이전트(사람을 대신해 코드를 짜고 작업을 수행하는 AI 프로그램)가 작업은 끝내도 문제가 생겼을 때 원래대로 되돌리는 능력이 부족하다는 점을 다뤄요. 발표자들은 자신들의 연구 프로젝트 UndoBench와 EvoUndo를 바탕으로 이 문제를 설명해요.

영상에서 다루는 내용

1. 1

   Git(코드 변경 이력을 기록하고 되돌리는 도구)은 외부 API 호출, 실행 중 설정, 알림 등은 되돌리지 못해요.

2. 2

   단순히 다시 시도하는 것만으로는 이미 일어난 부작용을 없앨 수 없어요.

3. 3

   EvoUndo 실험에서 에이전트 능력을 높인 변경 478건 중 197건(약 42%)이 복구 능력을 함께 떨어뜨렸어요.

4. 4

   발표는 원래 상태를 저장하고, 다시 시도·복원·보상·사람에게 넘기기 중 적절한 대응을 고른 뒤, 결과를 독립적으로 검증하는 방법을 제시해요.

왜 볼 만할까요?

에이전트가 실제 시스템을 바꾸는 시대에 실수를 되돌리는 방법은 안전하게 쓰기 위해 꼭 알아야 할 내용이에요.