코딩 에이전트의 위험 판단을 싸게 거는 방법의 한계
두 개를 함께 쓰는 도구에서, 한 에이전트는 계획을 내고 구현하며 다른 에이전트는 검토한다. 실험 중인 기능은 다. 두 에이전트가 위험한 계획에 너무 쉽게 동의하면, 검토 에이전트가 한 번 더 돌아가며 아직 따져보지 않은 가정을 공격한다.
문제는 어떤 계획을 추가 검토할 만큼 위험하다고 볼지 정하는 일이다. 첫 방식은 각 결정문을 작은 규칙 목록과 로 맞춰 보는 방식이다. 규칙에는 명시적 허락 없이 공개·푸시·병합·배포하지 않기, 결과가 사라지지 않게 보존하기, 을 깨지 않기, 에서 벗어나지 않기 같은 항목이 있다.
이 방식은 싸고 예측 가능하지만, 실제 실행에서는 빠뜨림과 헛걸림이 모두 생겼다. 실제 위험 결정이 규칙과 같은 단어를 쓰지 않으면 빠지고, 반대로 merge_intervals 같은 일반 코드 작업은 'merge'라는 말 때문에 위험 신호처럼 잡힐 수 있다.
핵심 포인트
- 두 개의 가 구현과 검토 역할을 나눠 맡는다.
- 위험한 계획에 쉽게 합의하면 로 검토를 한 번 더 실행한다.
- 위험 판단은 작은 규칙 목록과 일치로 먼저 처리한다.
- 방식은 비용이 낮고 예측 가능하지만 빠뜨림과 헛걸림이 생긴다.
- 추가 검토를 언제 실행할지 정하는 기준이 과 의 핵심이다.