Hermes에 읽기 전용 ‘감각’을 붙이는 방법
를 더 믿을 만하게 쓰기 위해 실시간 세계 데이터를 계속 받아오는 지정학 위험 엔진을 로 연결했다. 핵심은 에게 판단이나 조언을 주는 것이 아니라, 무엇이 일어났고 무엇이 바뀌었는지만 보게 하는 것이다. 예를 들어 “비트코인을 사야 하냐”고 물으면 신호를 지어내지 않고 거절하도록 만들었다.
가장 큰 작업은 실제 데이터가 있어도 가 그 주변에 없는 내용을 꾸며내지 못하게 막는 것이었다. 같은 구조는 작은 , Claude, 에서도 돌릴 수 있게 설계됐다. 판단을 담당하는 모델은 바뀌어도, 데이터 쪽에 붙인 신뢰 규칙은 그대로 유지된다.
지금은 가 보는 것만 하게 두고 있으며, 실제 행동 기능은 30일 시험 운영 뒤 가치가 확인되면 붙일 계획이다.
핵심 포인트
- 에 를 연결할 때는 판단보다 관찰 정보만 주는 편이 안전하다.
- 를 쓰면 가 데이터를 볼 수는 있지만 직접 바꾸거나 실행하지는 못한다.
- 예측이나 조언을 데이터처럼 넘기지 않으면 없는 신호를 꾸며낼 위험을 줄일 수 있다.
- 모델을 Claude나 등으로 바꿔도 데이터 쪽 신뢰 규칙은 유지되도록 설계할 수 있다.
- 행동 기능은 바로 붙이지 말고, 먼저 일정 기간 관찰 전용으로 시험하는 방식이 현실적이다.