검색으로 답변 정확도를 높이는 검색 증강 생성의 기본 구조
은 인공지능이 기억에만 의존하지 않고 외부 자료를 찾아 답하는 방식이다. 사용자가 질문하면 시스템이 를 검색하고, 가장 관련 있는 정보를 골라 질문과 함께 인공지능에 전달한다. 인공지능은 이 자료를 근거로 더 정확하고 문맥에 맞는 답변을 만든다.
고객 지원 도우미, 사내 정보 검색, 연구 도구, 교육 서비스, 법률 문서 검색, 온라인 쇼핑 도우미 등에 활용할 수 있다. , 임베딩, , , 같은 개념도 복잡한 수식 없이 배울 수 있도록 구성됐다.
핵심 포인트
- 질문을 받으면 먼저 에서 관련 자료를 검색한다.
- 검색한 자료 가운데 질문과 가장 가까운 내용을 고른다.
- 선택한 정보를 질문과 함께 인공지능에 전달해 답변 근거로 사용한다.
- 고객 지원, 사내 검색, 연구, 교육, 법률, 온라인 쇼핑 도우미에 적용할 수 있다.
- 비용 절감을 위해서는 전달하는 자료의 양과 입력 토큰을 관리해야 한다.