Azure에서 RAG 시스템을 만들 때 드는 비용이 핵심 고민
Azure에서 RAG 시스템을 만들려는 초기 구상은 공개 웹사이트의 PDF와 자료 문서를 가져오는 방식이다. 먼저 웹페이지에서 내용을 추출하고, 그 내용을 일반 텍스트로 저장한다. 그다음 텍스트를 벡터화해 검색하기 쉬운 형태로 바꾸고, 을 사용한다.
이후 와 모델을 함께 써서 질문에 맞는 자료를 찾고 답을 만드는 흐름을 생각하고 있다. 가장 큰 고민은 어떤 Azure 서비스를 조합해야 하는지, 실제 이 어디서 발생하는지, 참고할 만한 문서나 자료가 무엇인지다.
핵심 포인트
- 공개 웹사이트의 PDF와 자료 문서를 지식 자료로 쓰려는 계획이다.
- 문서를 텍스트로 저장한 뒤 벡터화해 검색에 활용하려는 구조다.
- 와 모델을 함께 쓰는 방식을 검토하고 있다.
- 주요 질문은 실제 Azure 서비스 조합과 관리 방법이다.
- 아직 구체적인 비용 수치나 성능 결과는 제시되지 않았다.