GraphRAG가 비용을 늘릴지 묻는 RAG 구축 경험
문서를 바탕으로 전통적인 을 만들었지만, 자료를 나누고 넣는 과정에서 문제가 생겼다. 청킹이 잘 되지 않았고, 겹치는 구간을 손으로 조정해 에 넣는 데 약 49분이 걸렸다.
앱은 완성됐지만, 검색 단계에서 관련성이 낮은 답을 가져왔다. 원인은 자료 수집과 저장 과정의 실수로 보인다.
DB와 를 알게 된 뒤, 언제 를 써야 하고 언제 쓰지 말아야 하는지, 장단점이 무엇인지가 핵심 고민이다. 대화할 때마다 그래프가 계속 만들어진다면 비용이 커질 수 있다는 우려도 있다.
핵심 포인트
- 전통적인 에서 청킹과 자료 수집 과정이 병목이 됐다.
- 겹치는 구간을 손으로 조정해 넣는 작업에 약 49분이 걸렸다.
- 완성된 앱은 검색 단계에서 관련성이 낮은 답을 가져왔다.
- 가 언제 필요한지와 언제 과한 선택인지가 핵심 판단 기준이다.
- 대화 중 그래프가 계속 만들어지면 비용이 늘 수 있다는 우려가 있다.