조직별로 따로 운영하는 지식 기반 AI 에이전트 설계

조직 안의 문서와 이미 쓰고 있는 챗지피티, Claude 같은 대화형 사이에 별도의 지식 계층을 두는 설계다. 목표는 새 챗봇을 만드는 것이 아니라, AI 비서가 믿을 수 있는 자료를 읽고 작업 결과를 남길 수 있는 공간을 제공하는 것이다. 설치는 조직마다 분리된다.

한 조직당 서버와 데이터가 따로 있고, 여러 조직이 같은 를 공유하지 않게 해 실수로 자료가 섞일 위험을 줄인다. 원본 Word, PowerPoint, PDF 파일은 그대로 보관하고, 추출한 글은 설명 정보가 붙은 마크다운 파일로 저장한다. 는 언제든지 디스크에 있는 자료로 다시 만들 수 있는 임시 성격의 캐시로 본다.

이나 문서를 자르는 방식이 바뀌면 데이터 이전 작업이 아니라 다시 색인하는 방식으로 처리한다. 파일만으로는 부족하므로, 각 문서가 왜 들어왔는지, 어떤 추출기와 청커와 과 접근 범위 정책으로 처리됐는지를 매니페스트와 에 남긴다.

핵심 포인트

  • 조직별로 서버와 데이터를 분리해 다른 조직의 자료가 섞이지 않게 한다.
  • AI 비서는 MCP를 통해 이 지식 계층에 접근하고, 기존 대화형 를 대체하지 않는다.
  • 원본 문서는 그대로 보관하고, 추출한 텍스트는 마크다운으로 저장한다.
  • 는 다시 만들 수 있는 캐시로 취급한다.
  • 이나 청커를 바꾸면 기존 데이터를 옮기기보다 다시 색인한다.
원문 보기