Gemini가 로컬과 Cloud Run에서 서로 다른 값을 내는 문제
에서 를 같은 코드와 같은 입력으로 실행했는데, 로컬 환경과 배포 환경의 결과가 눈에 띄게 달랐다. 단순히 문장 표현만 다른 수준이 아니라, 이미지나 텍스트에서 뽑아낸 값 자체가 달라졌다.
사용 환경은 Python 3.x, 2.8.0, Docker로 배포한 이다. 확인된 조건은 모두 같았다.
소스 코드, 프롬프트, 시스템 지시문, 입력 이미지와 텍스트, , 모델 이름, , top_p, top_k, 최대 출력 토큰, SDK 버전, , 입력 파일, 프로젝트가 동일했다. 남은 의심 지점은 가 0이어도 Gemini 출력이 완전히 고정되지 않을 수 있는지, 또는 나 쪽에서 놓친 실행 차이가 있는지다.
핵심 포인트
- 가 로컬 실행과 실행에서 다른 결과를 냈다.
- 차이는 표현 문제가 아니라 추출된 값 자체의 차이였다.
- 코드, 프롬프트, 입력, 모델 설정, , SDK 버전이 같다고 확인됐다.
- 가 0이어도 결과가 완전히 고정되지 않을 가능성이 의심됐다.
- 실서비스에서는 Gemini 출력값을 검증하고 로그로 비교할 장치가 필요하다.