운동 분석 앱에서 AI 비용을 줄이는 모델 구성 고민
운동 기록 분석 앱은 달리기, 자전거, 수영 같은 를 받아 속도 변화, 정체 구간, 훈련 제안, 신발 같은 장비 조언을 제공하려 한다. 데이터는 Strava나 Garmin에서 내보낸 파일, 직접 적은 기록, 운동 통계 화면 캡처처럼 여러 형태로 들어온다. 화면 캡처가 일부 있기 때문에 최소한 일부 과정에는 이미지를 읽는 기능이 필요하다.
가격제는 단계별로 나누고, 저가 요금제에는 운동 한 번 또는 주간 단위 분석만 제공하며, 상위 요금제에는 전체 운동 기록을 두고 자유롭게 묻는 채팅 기능을 넣는 구상이다. 비용을 낮추기 위해 기본 분석에는 싸고 빠른 모델을 쓰고, 채팅에는 더 똑똑한 모델을 따로 쓰는 방안이 검토되고 있다. 핵심 고민은 화면 캡처 때문에 모든 작업에 비전 모델을 쓰는 것이 낭비인지, 아니면 OCR로 이미지 속 글자를 먼저 뽑아 싼 모델에 넣는 편이 나은지다.
또 몇 달치 운동 기록은 문맥창에 계속 넣기 어렵기 때문에, 운동 에서 필요한 정보만 찾아 넣는 RAG 방식이 나은지, 긴 문맥창 모델이 실제로 충분한지도 고민거리다. 비용 후보로는 Haiku, 4o-mini, 같은 모델이 비교 대상에 올라 있다.
핵심 포인트
- 운동 데이터 분석에는 파일, 직접 입력한 기록, 화면 캡처가 함께 들어온다.
- 화면 캡처 때문에 모든 작업에 비전 모델을 쓰면 비용이 커질 수 있다.
- OCR로 이미지의 글자를 먼저 뽑으면 더 싼 텍스트 모델을 쓸 가능성이 있다.
- 상위 채팅 기능은 몇 달치 기록을 다 넣기보다 RAG로 필요한 기록만 찾는 방식이 검토된다.
- 저가 분석용 모델과 고급 채팅용 모델을 나누는 구성이 비용 관리에 맞다.