AI 에이전트 여러 개 굴릴 때 뭘 하는지 추적해주는 도구 Cartha

AI 에이전트를 하나만 돌릴 때는 괜찮지만, 여러 개를 동시에 운영하면 각 에이전트가 무엇을 기억하고 있는지, 어떤 도구를 호출했는지, 비용이 얼마나 나가는지 파악하기 어렵고, 문제가 터지고 나서야 로그를 뒤져 상황을 재구성하게 된다. 이 문제를 풀기 위해 만든 도구가 Cartha다. 파이썬 코드 세 줄로 에이전트 함수에 데코레이터만 붙이면 되고, 타입스크립트 지원도 준비 중이다. 주요 기능은 세 가지다.

첫째, 실행 재생(trace replay) 기능으로 특정 실행을 클릭하면 어떤 메모리를 불러왔는지, 어떤 도구를 호출했는지, 실제 의사결정 경로가 무엇이었는지 전체 추론 과정을 볼 수 있다(단순 로그 이상). 둘째, 범위가 지정된 메모리(scoped memory)로, 메모리 접근을 사용자/에이전트/팀/조직 단위로 강제 제한한다. 예를 들어 고객지원 에이전트가 재무 에이전트의 메모리를 봐서는 안 된다면, '보면 안 된다'가 아니라 실제로 볼 수 없게 막는다. 셋째, 비용 귀속(cost attribution) 기능으로 실행당 총액이 아니라 에이전트별·도구 호출별로 비용을 쪼개 보여주는데, 대부분의 팀이 실제 낭비를 여기서 발견한다고 한다.

OpenTelemetry와 호환되고 MCP·A2A를 SDK 단에서 네이티브로 지원하며, 특정 프레임워크에 종속되지 않는다. 개발자는 실제로 에이전트 시스템을 만들고 운영하는 사람들이 써보고 사용성(DX)이 나쁜 부분, 추상화가 안 맞는 부분, 애초에 불필요한 문제를 풀고 있는 건 아닌지 솔직한 피드백을 구하고 있다.