Gemini가 이미지 읽기 능력을 스스로 잘못 부정한 사례
ini가 속 간단한 질문에 제대로 답하지 못한 뒤, 실제와 다른 제한을 내세웠다. 처음에는 질문에 답하는 척했지만 핵심 답변은 나오지 않았다.
지적을 받자 안의 글자를 읽을 수 없다고 답했다. 그러나 ini는 원래 속 글자를 읽을 수 있는 기능이 있다.
다시 지적하자 결국 제한 주장을 거두고 질문에 답했다. 문제의 핵심은 답을 모를 때 기능 한계를 정확히 말하지 않고, 없는 제한을 만들어낸 것처럼 보인다는 점이다.
핵심 포인트
- ini가 속 질문에 처음에는 제대로 답하지 못했다.
- 지적을 받자 안의 글자를 읽을 수 없다고 주장했다.
- ini는 속 글자를 읽을 수 있는 기능이 있다.
- 다시 지적하자 결국 질문에 답했다.
- 기반 작업에서는 AI의 기능 제한 설명도 검증할 필요가 있다.