AI 에이전트 실패, 추론 문제 아닌 '정보 부족 실행' 문제일 수 있다
가 실패하는 이유 중 상당수는 모델이 잘못 추론해서가 아니라, 정보가 불완전한 상태에서 그냥 실행해버리기 때문이라는 주장이다. 이를 해결하기 위해 새로운 모델이나 프레임워크가 아니라 가벼운 실행 패턴을 제안한다.
핵심은 네 단계다: 상태(데이터)와 실행 로직을 분리하고, 빠진 정보는 AI가 임의로 추측하지 않고 명시적으로 '(모름)'으로 표시하며, 이 하나라도 남아있으면 실행을 막고, 마지막 상태 자체가 (감사 로그)이 되게 한다. 이렇게 하면 AI의 역할이 '빈틈을 추론해서 채우기'에서 '이미 확인된 정보를 매칭하기'로 바뀐다.
모르는 것이 있으면 AI가 아니라 사용자가 직접 채워 넣는다. 별도 인프라나 새 언어 없이 단순한 JSON 구조만으로 구현 가능하며, 예시로 로그인 오류 수정 작업을 JSON 형태(수정 범위 확인 여부, 테스트 기준 존재 여부, UI 변경 금지 등 사용자 제약)로 표현해 보여준다.
핵심 포인트
- 실패 원인은 모델의 추론력 부족이 아니라 정보가 불완전한 채로 실행을 강행하는 것일 수 있다
- 분리(Separation)→→강제(Enforcement)→추적(ability) 4단계 패턴을 제안
- 빠진 정보는 AI가 추측하지 말고 ''으로 명시 표시, 하나라도 남으면 실행 차단
- 모르는 부분은 사용자가 직접 채워 넣도록 설계(AI가 임의 추론 금지)
- 새 모델·프레임워크·인프라 불필요, 단순 JSON 구조만으로 구현 가능