Gemini가 예전 질문을 전문성으로 착각하는 사례
Gemini가 몇 달 전에 받은 관련 질문 몇 개를 오래 기억한 뒤, 사용자를 과 전문가처럼 대하고 있다. 이후 전혀 다른 대화를 할 때도 “과 전문성을 활용해 면접관에게 깊은 인상을 주라”는 식으로 엉뚱한 조언을 붙인다.
사용자가 실제로는 그 분야를 다루지 않고 예전에 몇 가지 질문만 했다고 바로잡으면, Gemini는 잊었다는 식으로 반응한다. 문제의 핵심은 과거 대화 일부를 잘못 해석해 사용자 처럼 굳혀 버리고, 그 바탕으로 사실과 다른 내용을 계속 만들어 내는 환각이다.
핵심 포인트
- Gemini가 몇 달 전 질문을 사용자의 전문 분야처럼 잘못 기억했다.
- 다른 주제에서도 과 전문성을 활용하라는 조언을 반복했다.
- 사용자가 사실이 아니라고 바로잡아도 같은 종류의 착각이 이어졌다.
- 의 된 기억은 편리하지만, 잘못된 사용자 을 만들 수 있다.
- 중요한 글이나 면접 답변에 AI가 만든 경력·전문성 표현을 그대로 쓰면 안 된다.