Brain0, AI가 작성한 코드를 추적하는 '블랙박스' 도구 공개
Brain0는 가 만든 커밋을 그 근거가 된 프롬프트와 연결해 기록하는 오픈소스 도구다. 모든 커밋을 결정 그래프 형태로 저장해, 어떤 프롬프트가 어떤 코드 변경을 만들었는지 수동적으로 추적한다. 코드가 원래 의도에서 벗어났는지 감지하는 드리프트 탐지 기능이 있고, 에이전트가 실제로 어떤 파일이나 데이터를 읽었는지 감사하는 DLP() 감사 기능도 포함한다.
위험도를 추측이 아니라 실제 증거 기반으로 평가하고, 가 참고할 수 있도록 메모리를 제공하며, 커밋에 서명된 출처 증명()을 남긴다. 설치는 명령어 하나로 끝나고 기본적으로 오프라인에서 동작해 외부 서버 전송 없이 로컬에서 완결된다.
핵심 포인트
- 가 만든 모든 커밋을 원본 프롬프트와 연결해 기록
- 코드가 의도에서 벗어나는 것을 감지하는 드리프트 탐지 기능
- 에이전트가 읽은 파일/데이터를 감사하는 DLP 감사 기능 포함
- MCP 메모리와 서명된 출처 증명 제공, 명령어 한 줄로 설치, 기본 오프라인 동작