Claude 대화에서 토큰을 크게 아끼는 간단한 습관

Claude에서 답변을 고칠 때 새 메시지로 “더 짧게 해줘”나 “톤을 바꿔줘”라고 보내면 비용이 빠르게 커진다. Claude는 마지막 요청만 읽는 것이 아니라, 그때까지의 전체 대화 내용을 다시 읽고 답한다.

그래서 이 30번 이어지면 30개 메시지만큼만 쓰는 것이 아니라, 앞선 대화가 계속 누적되어 훨씬 많은 토큰을 쓰게 된다. 더 나은 방법은 새 메시지를 보내지 않고 원래 프롬프트를 직접 고친 뒤 다시 생성하는 것이다.

이 습관만으로 긴 수정 과정마다 3만~5만 토큰을 줄일 수 있다는 주장이다. 또 이 너무 길면 매 요청마다 큰 이 다시 들어가서, 실제 질문과 상관없는 내용까지 계속 비용을 만든다.

핵심 포인트

  • 을 새 메시지로 계속 보내면 Claude가 전체 대화를 다시 읽는다.
  • 긴 대화에서 수정 메시지가 쌓이면 이 누적되어 크게 늘어난다.
  • 원래 프롬프트를 고친 뒤 다시 생성하면 같은 수정 작업을 더 적은 비용으로 할 수 있다.
  • 은 매 요청마다 불필요한 지시문까지 함께 들어갈 수 있다.
  • 반복 수정이 많은 작업에서는 대화 추가보다 프롬프트 편집을 먼저 고려할 만하다.

이 사건을 다룬 원문 (3)

원문 보기