RAG 답변을 덜 틀리게 만드는 프롬프트 운영법
개발에서는 하나의 큰 에 검색과 답변을 모두 맡기기보다 역할을 나누는 편이 좋다. 먼저 사용자의 질문을 검색에 맞게 다시 쓰고, 사람 이름, 제품명, 날짜, 약어, 같은 단서를 넓힌 뒤 자료를 찾는다. 그다음 답변 단계에서는 찾은 자료 안에서만 말하게 하고, 각 문장에 어떤 문서와 구역이 근거인지 붙인다.
중요한 답변은 최종 답변 전에 주장, 근거 문서, 확신 정도, 서로 맞지 않는 내용이 있는지를 표로 정리하게 하면 환각을 줄일 수 있다. 자료가 부족할 때는 억지로 답하지 말고, 충분한 근거, 일부 근거, 충돌하는 근거, 관련 근거 없음처럼 상태를 나눠 말하게 해야 한다. 여러 번 검색이 필요한 경우에는 , 개요 문서 검색, 필요한 대상 추출, 세부 문서 검색, 답변처럼 단계를 제한하고 어느 단계에서 실패했는지 남기는 것이 좋다.
말투 지시는 유연하게 두되, 근거 규칙은 단단하게 둬야 한다. 숫자, 정책, 가격, , 버전, 지역, 처럼 빠지기 쉬운 정보는 자료에 없으면 없다고 말하게 해야 한다.
핵심 포인트
- 검색용 와 답변용 를 분리한다.
- 답변은 찾은 자료 안의 근거로만 만들고, 문장마다 을 붙인다.
- 근거가 없거나 부족하면 추측하지 말고 무엇이 빠졌는지 말하게 한다.
- 여러 단계 검색은 끝없이 이어지지 않게 단계 수와 역할을 제한한다.
- 와 검색 설정은 함께 버전으로 관리해야 나중에 문제를 찾기 쉽다.