오픈소스중요도: 보통

돈을 움직이는 AI 에이전트에는 실행 전 보호 장치가 필요하다

r/AI_Agents2026년 6월 22일 · 21일 전

밈코인을 자동으로 사고파는 에서는 판단 자체보다 실행 직전의 안전 확인이 더 큰 문제였다. 초기 테스트에서 에이전트가 산 토큰의 약 42%가 가격이 거의 0으로 무너졌다. 겉으로는 문제가 없어 보이는 토큰도 있었다.

계약은 검증되어 있었고, 유동성 풀은 소각되어 있었으며, 큰 보유자가 바로 보이지 않았다. 하지만 실제 위험은 모델이 문장으로 추론하기 어려운 곳에 있었다. 같은 출처에서 자금을 받은 지갑들이 같은 블록에서 함께 사들인 뒤, 다음 구매자에게 팔아치우도록 준비된 구조였다.

해결책은 에이전트가 거래에 서명하기 전에 별도 도구를 반드시 호출하게 하는 방식이었다. 이 도구는 0~100 와 함께 같은 자금 출처, 같은 블록 묶음 거래, 반복 사기 배포자 이력 같은 신호를 돌려주고, 기준을 넘으면 거래를 건너뛰게 했다. 여기에 진입 시점 제한까지 더하자 가격 붕괴 비율은 약 42%에서 거의 0에 가까워졌다.

핵심 포인트

  • 가 직접 거래하면 잘못된 행동이 곧바로 손실로 이어질 수 있다.
  • 초기 테스트에서 구매한 토큰의 약 42%가 가격이 거의 0으로 무너졌다.
  • 문제는 토큰 설명이 아니라 지갑 자금 출처와 같은 온체인 행동 패턴에 있었다.
  • 거래 전 도구가 와 구체적 경고 신호를 반환하게 하자 위험한 거래를 건너뛸 수 있었다.
  • 되돌릴 수 없는 실행 앞에는 모델 판단과 별개의 결정적 가 필요하다.

이 사건을 다룬 원문 (4)

원문 보기 ↗