Gemini가 대화와 이미지 생성에서 문맥을 자주 놓친다는 경험담
Gemini는 잠시 매우 뛰어난 답을 내다가도 갑자기 사실과 앞선 대화의 문맥을 무시하고 엉뚱한 방향으로 흐를 때가 있다는 경험담이다. 한 번 흐름이 어긋나면 추가 지시로 되돌리기 어렵고, 재시도할수록 결과가 더 혼란스러워졌다고 한다.
Loud를 만들면서 을 바탕으로 홍보용 이미지를 생성할 때 이런 문제가 특히 두드러졌다. 이미지 품질도 매우 좋은 경우와 의도에서 크게 벗어나는 경우가 오갔다.
GPT와 Claude를 포함한 모든 이 환각을 일으킬 수 있지만, Gemini는 틀린 내용을 특히 확신에 차서 내놓는다는 인상을 줬다. ‘Gemini가 으로 만들어졌다’는 말은 실제 개발 방식에 대한 사실이 아니라, 이런 불안정성을 빗댄 농담이다.
핵심 포인트
- Gemini가 좋은 답을 내다가 갑자기 사실이나 앞선 문맥을 놓치는 일이 있었다.
- 대화가 엉뚱한 방향으로 흐른 뒤에는 바로잡기 어려웠고, 재시도가 결과를 더 나쁘게 만들기도 했다.
- 을 바탕으로 홍보 이미지를 만드는 Loud 작업에서 문맥 이탈이 반복됐다.
- 결과의 품질 편차가 컸다.
- Gemini의 환각은 틀린 내용도 강한 확신으로 표현하는 듯했다.