실무 AI 에이전트에는 실패 원인 진단이 따로 필요하다
실무 는 계획 세우기, , , 만으로 충분하지 않다. 실패했을 때 단순히 이 안 됐다거나 다시 시도하자는 수준에 머물면 같은 실수를 반복할 수 있다.
필요한 것은 어떤 가정이 틀렸는지, 어느 이나 결과가 잘못된 상태를 만들었는지, 지금 남아 있는 상태가 무엇인지 파악하는 일이다. 또한 다시 시도해도 안전한지, 롤백이나 가 필요한지, 다음 단계에 사람의 검토가 필요한지도 판단해야 한다.
관찰은 무슨 일이 일어났는지를 보는 일이고, 진단은 왜 이런 상태가 되었으며 다음에 무엇을 해도 안전한지를 정하는 일이다. 이런 실패 처리 능력은 에이전트가 그럴듯하게 말하는 능력보다 실무 신뢰에 더 직접적인 영향을 준다.
핵심 포인트
- 실무 는 실패 원인을 운영 관점에서 설명할 수 있어야 한다.
- 잘못된 가정, 문제를 만든 , 현재 남은 상태를 구분해야 한다.
- 다시 시도, 롤백, , 사람 검토 중 무엇이 안전한지 판단해야 한다.
- 관찰은 발생한 일을 보는 것이고, 진단은 원인과 다음 안전한 행동을 정하는 것이다.
- 진단이 없으면 에러 메시지만 좋아지고 같은 잘못된 행동을 반복할 수 있다.