프롬프트 평가 자동화도 버전 관리가 없으면 운영 장애를 놓친다
한 팀이 배포 때마다 GPT-4o를 평가자로 써서 프롬프트 변경을 자동 검사했다. 평가는 8개 기준으로 이루어졌고, 처음 3개월 동안은 눈에 띄는 품질 하락을 몇 번 잡아내며 효과가 있었다. 이후 기계학습 담당자가 특정 을 고치려고 를 바꿨고, 자동 평가는 8.7점이라는 높은 점수를 줬다.
하지만 실제 배포 뒤 약 3%의 사용자가 전혀 다른 출력 형식을 받는 문제가 생겼다. 평가 예시에 그 출력 형식이 없어서 평가자가 문제를 알아차리지 못했다. 원인은 모델 프롬프트는 에서 관리했지만, 평가자 프롬프트는 Notion 문서에서 따로 관리해 두 체계가 서로 어긋난 것이었다.
두 프롬프트를 같은 버전 관리 체계에 넣자, 적어도 배포 전 변화와 어긋남을 볼 수 있게 됐다. 와 도 비슷한 관리 방식을 제공하지만, 자동 평가만으로 미묘한 품질 하락까지 모두 잡기는 어렵다.
핵심 포인트
- GPT-4o 평가자가 배포마다 프롬프트 변경을 8개 기준으로 검사했다.
- 처음 3개월 동안은 명확한 품질 하락을 일부 잡아냈다.
- 8.7점으로 통과한 변경이 실제로는 약 3% 사용자에게 잘못된 출력 형식을 만들었다.
- 평가 예시에 없던 출력 형식은 자동 평가가 제대로 판단하지 못했다.
- 모델 프롬프트와 평가자 프롬프트를 같은 버전 관리 체계에 넣어야 변화와 어긋남을 볼 수 있다.