LoRA 모델 종량제 호스팅 선택지가 줄어든 듯하다
앱에 을 넣으려면 특정 용도에 맞춘 이 필요하다. 원래는 Together AI나 같은 서비스에서 LoRA 방식으로 조정한 모델을 만큼 내는 종량제로 쓰려는 계획이었다.
하지만 예전처럼 LoRA 모델에 종량제 가격을 제공하는 곳을 찾기 어려워졌다. 관련 정보도 온라인에서 잘 보이지 않는다.
앱 테스트는 앞으로 몇 달 동안 간헐적으로만 진행될 예정이라, GPU를 빌려 계속 켜 두는 방식은 비용이 맞지 않는다. 핵심 고민은 를 붙인 모델을 가장 싸게 호스팅하는 방법이다.
핵심 포인트
- 앱에 맞춘 이 필요하다.
- Together AI나 같은 서비스의 LoRA 종량제 선택지를 찾기 어려워졌다.
- 온라인에서 변경 이유나 대안 정보를 찾기 쉽지 않다.
- 몇 달간 간헐적으로 테스트할 예정이라 고정 GPU 임대는 부담이 크다.
- 가장 싼 호스팅 방법이 핵심 질문이다.