AI Studio에 숨은 시스템 프롬프트가 생겼다는 사용 경험
개인 사용 경험 기준으로, 가 이제 Gemini 웹 앱처럼 보이지 않는 의 영향을 받는 것으로 보인다. 예전 는 사용자가 안전 설정과 직접 쓴 지시문을 더 강하게 조절할 수 있다는 점이 장점으로 여겨졌다.
이제는 안전 토글이나 사용자가 넣은 와 상관없이, 모델의 생각 흐름 안에 숨은 지시가 언급된다고 한다. 그 지시는 대화를 더 안전한 방향으로 돌리거나, 민감한 주제를 더 일반적인 이야기로 낮추려는 내용으로 보인다고 한다.
는 4월 말 로 바뀌었지만, 같은 사용 경험에서는 아직 이런 숨은 가 보이지 않는다고 한다. 다만 쪽은 보다 비용이 더 높다.
핵심 포인트
- 출력에 보이지 않는 가 영향을 준다는 경험담이다.
- 안전 토글이나 사용자가 작성한 지시문만으로는 완전히 통제되지 않을 수 있다고 한다.
- 모델의 생각 흐름에서 숨은 지시의 흔적을 볼 수 있었다고 한다.
- 또는 는 아직 같은 변화가 보이지 않는 대안으로 언급됐다.
- 더 강한 제어권이 필요하면 비용이 더 큰 기업용 도구를 검토해야 할 수 있다.