AI 자동화가 하룻밤에 API 비용 842달러를 쓴 사례
고객 지원 이메일을 자동 처리하는 에서 작은 오류가 큰 비용으로 이어졌다. 흐름은 고객 문의를 읽고, OpenAI로 답변을 만들고, 이메일을 보내는 단순한 구조였다. 그런데 이메일 전송이 실패했을 때 멈추지 않고 전체 과정을 다시 실행하는 논리 오류가 있었다.
재시도할 때마다 답변을 새로 만들었고, 그때마다 호출 비용이 쌓였다. 6시간 동안 비용이 842달러 늘었고, 아침까지 는 1만2천 번 실행됐다. 문제를 늦게 알아챈 이유는 API 제공자가 실시간 비용을 보여주지 않았고, 별도 경고도 없었기 때문이다.
핵심 교훈은 마다 실시간 비용 확인, 작업별 , 반복 실행 차단 장치가 필요하다는 점이다. 재시도는 이전 대화 내용을 다시 보내기 때문에 문맥이 길어질수록 보이지 않는 비용도 커질 수 있다.
핵심 포인트
- 이메일 전송 실패 뒤 전체 AI 작업을 다시 실행하는 버그가 비용 폭증을 만들었다.
- 6시간 동안 OpenAI 비용이 842달러 늘었다.
- 같은 가 밤사이 1만2천 번 실행됐다.
- 은 실시간으로 보이지 않으면 알아차렸을 때 이미 늦을 수 있다.
- AI 재시도에는 작업별 와 즉시 알림이 필요하다.