인공지능 비용이 새는 곳을 설정 비교로 찾는 분석기

사용료가 예상보다 높을 때, 이 분석기는 토큰이 어디에서 소비되는지 살펴 비용 원인을 찾도록 만들어졌다. 기존의 비용 절감 분석과 토큰 사용 분석에 비교 기능이 추가됐으며, 이 기능은 초기 사용자 제안에서 출발했다. , 모델, 를 달리한 설정을 해 각 선택이 과 비용에 미치는 차이를 볼 수 있다.

실행 틀에도 적용할 수 있어, 를 움직이는 전체 설정에서 토큰이 많이 드는 부분을 찾는 데 쓸 수 있다. 실제 절감액이나 비교 결과는 제시되지 않았다.

핵심 포인트

  • 토큰이 어디에서 소비되는지 분석해 높은 비용의 원인을 찾는다.
  • , 모델, 를 바꾼 설정을 할 수 있다.
  • 비교 기능은 초기 사용자 제안을 반영해 추가됐다.
  • 실행 틀의 토큰 사용도 분석할 수 있다.

이 사건을 다룬 원문 (2)

원문 보기