코덱스 사용량 아끼려 로컬 GPU로 2차 검토기 만든 사례

이미 갖고 있던 (24GB 그래픽카드)을 활용해 코덱스(Codex) 사용량을 아끼는 하이브리드 작업 방식을 구성했다. 기본 작업은 코덱스( 모델)가 계속 담당하고, 코드 조각이나 변경 내용, 로그, 질문 같은 제한된 텍스트만 로컬에서 오야마()로 돌리는 모델에 보내 2차 의견을 받는다.

로컬 모델의 답변은 참고용일 뿐이며 최종 판단과 채택 여부는 항상 코덱스가 직접 검증해서 결정한다. 이 연결은 local_gpu_reviewer라는 로컬 MCP(모델이 외부 도구와 통신하는 표준 방식) 서버로 이루어지는데, 이 로컬 검토기에는 파일 쓰기·셸 명령 실행·깃(Git) 조작·배포·이메일 발송 등 어떤 외부 시스템 접근 권한도 주지 않았다.

오직 코덱스가 명시적으로 건네준 텍스트만 분석할 수 있다. 가장 까다로웠던 기술적 문제는 코덱스의 기본 커스텀 에이전트 경로가 예상과 다른 형식의 메시지를 보내는 부분이었다고 한다.

핵심 포인트

  • (24GB) GPU로 어 구축
  • 기본 작업은 코덱스가 담당, 로컬 모델()은 보조 검토만
  • 로컬 모델은 코드 조각·로그 등 제한된 텍스트만 받고 실행·배포 권한 없음
  • MCP(모델-도구 연결 표준) 서버로 코덱스와 로컬 모델을 연결
  • 최종 판단과 채택 여부는 항상 코덱스가 독립적으로 검증
원문 보기