Hermes에서 모델을 바꾸면 같은 지시문도 다르게 작동할 수 있다
Hermes를 에이전트 실행기로 쓰는 작업에서, 기존 워드프레스 사이트에 지역 제한 서비스용 주문 흐름을 붙이고 있다. 결제 전에 주소를 검색해 서비스 가능 여부를 확인하는 단계가 필요하다. 이 주소 검색은 미리 넣어 둔 유효 주소 목록을 찾아야 하며, 일부 글자만 입력해도 후보를 보여주고, 자동완성, 오타 허용, 줄임말 처리까지 해야 한다.
예를 들어 “St”는 “Street”로, “Rd”는 “Road”로 이해해야 한다. 는 이 주소 검색 시제품을 잘 만들었지만, 더 큰 주문 흐름에 붙이는 과정에서 사용량 제한에 걸렸다. 그래서 Hermes의 모델을 로 바꾸었고, 두 모델에는 같은 마크다운 문맥 파일을 제공했다.
핵심 문제는 가 같은 자료를 받아도 OpenAI가 쉽게 처리한 주소 자동완성 통합에서 어려움을 보인다는 점이며, 원인이 모델 자체의 한계인지 프롬프트 방식의 문제인지가 불분명하다는 것이다.
핵심 포인트
- Hermes를 에이전트 실행기로 쓰며 워드프레스 주문 흐름을 만들고 있다.
- 주소 확인 단계는 일부 입력, 자동완성, 오타 허용, 줄임말 처리를 모두 요구한다.
- 는 초기 주소 검색 시제품을 잘 만들었다.
- 사용량 제한 때문에 Hermes의 모델을 로 바꾸었다.
- 같은 마크다운 문맥 파일을 줬는데도 는 통합 작업에서 더 어려움을 보였다.