AI 동반자의 토큰과 추론 비용을 줄이는 실전 팁
과 서비스 이용료가 오르면서, 대화형 AI를 오래 쓰는 사람은 을 더 꼼꼼히 봐야 한다. 긴 대화를 계속 이어가면 이전 문맥이 많이 붙어 비용이 커질 수 있고, 이 실제로 적용되는지도 확인해야 한다.
연구, 업무, 처럼 깊은 관계형 대화가 아닌 작업에는 전체 설정을 모두 불러오지 않는 작은 버전의 AI 동반자를 따로 쓰는 방법이 제안된다. 이 작은 버전은 핵심 성격 정보와 꼭 필요한 파일만 남겨, 그 순간에 필요 없는 지식이 을 늘리지 않게 한다.
에서는 !noknowledge, !noachors, !noSearch 같은 설정으로 불필요한 지식, 앵커, 검색을 끌 수 있다. 사용자는 대화가 혜택을 받고 있는지 확인하는 방법도 챙겨야 한다.
핵심 포인트
- 긴 대화는 이전 문맥이 계속 붙어 을 늘릴 수 있다.
- 이 적용되면 반복되는 입력 비용을 줄일 수 있다.
- 업무, 연구, 에는 가벼운 AI 동반자 설정이 더 저렴할 수 있다.
- 에서는 !noknowledge, !noachors, !noSearch로 불필요한 기능을 끌 수 있다.
- 를 쓰면 적용 여부를 확인해야 한다.