Gemini 요약이 AI끼리 만든 글을 다시 요약하는 문제
개인 경험 기준으로, Gemini로 포럼 글을 요약할 때 실제 사람들의 토론이 아니라 AI 봇들이 만든 부정확한 내용과 봇끼리의 논쟁을 다시 요약하는 상황이 있었다. 온라인 글이 사람의 활동인지 AI가 만든 반복 글인지 구분하기 어려워지면, 가 대신 읽고 판단하는 방식의 믿을 만함이 크게 흔들린다. 특히 이 작업을 대신 실행하고 결정을 내리는 으로 갈수록, 정보가 진짜인지 확인하는 문제가 더 중요해진다.
기존의 캡차는 최신 을 막기 어렵다는 주장도 함께 나온다. 그래서 특정 기기나 실제 사람 확인 장치에 묶인 하드웨어 기반 인증이 AI 요청의 기본 규칙이 되어야 한다는 의견이 제시된다.
핵심 포인트
- Gemini 요약이 사람이 쓴 토론 대신 AI 봇들이 만든 내용을 다시 요약할 수 있다는 우려가 나온다.
- AI가 만든 글이 다시 의 입력이 되면 정보 신뢰도가 빠르게 떨어질 수 있다.
- 이 일을 대신 처리하는 에서는 요청을 보낸 주체가 사람인지 확인하는 문제가 커진다.
- 기존 캡차는 최신 을 막기에 부족하다는 관점이 제기된다.
- 하드웨어 기반 인증이 AI 요청의 신뢰 확인 방식으로 필요할 수 있다는 의견이 있다.