AI 평가 비용을 나눠 보려는 관찰 구조 초안
사용자 중심 을 위한 오픈소스 구조 초안은 AI 서비스의 평가 지표가 어디에서 실행되는지 나눠 보려 한다. 핵심 구분은 와 처리다.
는 정규식이나 기본 계산처럼 빠르고 네트워크 비용이 없는 작업을 뜻한다. 처리는 처럼 느리거나 호출 제한이 걸릴 수 있는 작업을 뜻한다.
공통 기반 클래스인 AppLayer는 점수와 지표별 점수 목록을 담아, 화면에서 빠르게 값을 찾아볼 수 있게 한다. IChatMetric 구조는 개발자가 직접 식별자를 만들지 않아도 코드 구조를 보고 자동으로 이름공간을 등록하는 방향을 제안한다.
핵심 포인트
- 평가 지표 실행 경로를 와 처리로 나눈다.
- 는 빠르고 이 없어 비용이 거의 들지 않는다.
- 처리는 같은 비싼 을 따로 표시한다.
- AppLayer는 점수와 지표별 값을 모아 화면에서 빠르게 조회하게 한다.
- IChatMetric는 개발자가 식별자를 직접 만들지 않도록 자동 이름공간 등록을 제안한다.