긴 작업에서 에이전트가 흐려지는 이유는 문맥 과부하일 수 있다
에이전트가 긴 일을 처리할 때 처음 몇 단계는 잘하다가 10단계쯤 지나며 실수가 늘 수 있다. 이미 실행한 도구를 다시 실행하고, 처음에 받은 지시를 놓치고, 자기 판단을 반복해서 되풀이하는 식이다. 모델 자체가 갑자기 바뀐 것이 아니라, 그동안 쌓인 내용이 을 채우면서 판단에 방해가 된다.
문제를 해 보면 품질 저하는 보통 토큰 깊이가 깊어지고 이 꽉 차는 시점과 맞물린다. 안에는 매번 다시 들어가는 전체 대화 기록, 처음 지시 위에 쌓인 긴 중간 과정, 통째로 들어온 , 에이전트 자신의 이전 판단이 함께 쌓인다. 특히 큰 형태의 은 대부분 다시 쓰이지 않는데도 을 크게 차지한다.
실수를 줄이려면 끝난 과거 대화는 결정만 남기고 요약하며, 은 에이전트가 실제로 읽어야 하는 필드만 남기는 방식으로 을 줄여야 한다.
핵심 포인트
- 긴 작업에서 에이전트는 10단계 이후 도구 , 지시 누락, 반복 판단 같은 실수를 보일 수 있다.
- 품질 저하는 이 많은 토큰으로 차는 시점과 함께 나타나는 경우가 많다.
- 전체 대화 기록을 매번 다시 넣으면 처음 지시가 긴 내용 속에 묻힌다.
- 큰 과 데이터는 다시 쓰이지 않는 정보까지 을 차지한다.
- 끝난 대화는 요약하고, 은 필요한 필드만 남기면 토큰과 실수를 함께 줄일 수 있다.