로컬 모델과 Claude를 함께 쓰려는 비개발자의 코딩 도구 실험
개발 경험이 HTML과 CSS 정도인 정보기술 가 로 실제 필요한 앱 여러 개를 만들었다. 로컬 모델용 컴퓨터는 각각 VRAM 48GB와 56GB를 갖췄으며, 두 장비 모두 에서 모델을 길이로 실행한다. 처음에는 안의 Cline에서 로컬 모델만 사용했다.
이후 직장에서 Claude를 쓸 수 있게 되자 Cline에 연결했지만, 토큰이 너무 빠르게 소모됐다. 로 바꾸니 작업 대화는 훨씬 오래 이어졌지만 기존 로컬 모델을 함께 쓰기 어려웠다. 이에 Claude 기반 작업 흐름에서 로컬 모델을 대신 연결하는 Anthropic의 공개 방법을 찾아 혼합 구성을 시도하고 있다.
같은 내용이 여러 커뮤니티에 올라왔지만, 서로 다른 사용 결과를 추가로 검증해 주는 자료는 아니다.
핵심 포인트
- 비개발자도 를 이용해 필요한 앱 여러 개를 완성했다.
- Cline에서 Claude를 사용하자 토큰 소모가 매우 빨랐다.
- 에서는 작업 대화가 더 오래 지속됐다.
- 만 사용할 때는 보유한 로컬 모델을 함께 활용하기 어려웠다.
- 로컬 모델과 Claude를 결합하는 혼합 구성을 찾는 것이 현재 과제다.