n8n 기반 사내 문서 에이전트가 검색은 되지만 답을 잘 못 만드는 문제
오프라인 사내 환경에서 n8n으로 회사 내부 흐름을 만들고 있다. 문서는 에 임베딩으로 저장되고, 임베딩 생성에는 이 쓰인다. 모델 실행은 로 처리한다.
사용자의 질문에 답하는 단계에는 노드가 있고, 대화 모델은 를 사용한다. 검색기 출력에는 관련 자료가 들어 있지만, 에이전트가 그 내용을 제대로 묶어 정확한 답으로 만들지 못한다. 일부 답변에는 환각도 나타난다.
더 큰 대화 모델은 하드웨어 제약 때문에 쓰기 어렵기 때문에, 현재 흐름 안에서 정확도를 높일 방법이 필요하다.
핵심 포인트
- 오프라인 사내 환경에서 n8n으로 내부 문서용 를 만들고 있다.
- 에는 관련 검색 결과가 나오지만 최종 답변 정확도가 낮다.
- 를 대화 모델로 쓰고 있으며 더 큰 모델은 하드웨어 때문에 어렵다.
- 문제의 핵심은 검색 실패보다 검색된 내용을 답변으로 정리하는 단계에 있다.
- 작은 모델을 유지하려면 검색 결과 정리 방식과 답변 규칙을 개선해야 한다.