Gemini 임베딩과 OpenAI 검색을 섞은 RAG 문제
Gemini로 데이터를 해 두고, 검색 단계에는 AI를 쓰는 구성에서 결과가 제대로 나오지 않는 상황이다. 핵심 질문은 서로 다른 회사의 모델을 한 안에서 섞어도 검색이 정상 작동하는지다. 현재 증상은 기대한 대로 자료를 찾아오지 못하는 것으로 보인다.
핵심 포인트
- Gemini로 데이터를 한 상태다.
- 검색 단계에는 AI를 사용하고 있다.
- 이 기대대로 작동하지 않는 문제가 있다.
- 서로 다른 을 섞으면 검색 품질이 나빠질 수 있다.
- 토큰 절감용 는 검색 가 먼저 안정돼야 의미가 있다.