인스타그램 주문 챗봇 비용을 낮춘 핵심은 캐시였다
7개 지점을 가진 초밥 체인은 주문의 약 90%를 인스타그램 다이렉트 메시지로 받는다. 이 사례에서는 Claude의 모델을 와 연결해 고객 메시지에 자동으로 답하게 했다. 모델은 7개 매장의 전체 메뉴, 재료, 칼로리, 알레르기 정보, 배달 가능 지역, 영업시간, 조리 시간, 진행 중인 행사까지 알아야 했다.
이런 정보 묶음은 매번 답변에 필요하지만, 매 메시지마다 새로 읽히면 비용이 너무 커진다. 비용을 낮춘 핵심은 였다. 전체 메시지의 약 97%에서 고정된 정보 묶음은 새로 처리되지 않고 에서 불러왔다.
로 읽는 비용은 일반 입력 비용의 10분의 1 수준이라, 실제로 매번 새로 비용이 크게 드는 부분은 고객의 짧은 메시지와 답변뿐이었다. 그래서 실제 주문량이 있는 매장에서도 메시지마다 Claude를 쓰는 구조가 가능해졌다.
핵심 포인트
- 7개 지점 초밥 체인의 주문 약 90%가 인스타그램 다이렉트 메시지로 들어온다.
- 이 를 통해 고객 메시지에 답하도록 연결됐다.
- 모델은 메뉴, 재료, 칼로리, 알레르기, 배달 지역, 영업시간, 조리 시간, 행사 정보를 함께 참고한다.
- 고정 정보의 약 97%가 로 처리돼 입력 비용이 크게 줄었다.
- 읽기 비용은 일반 입력 비용의 10분의 1 수준이었다.