수십억 토큰을 며칠 만에 쓴다는 개발자들, 어떻게 그게 가능할까
한 AI·소프트웨어 엔지니어가 커뮤니티에 올린 질문이다. 고성능 컴퓨팅과 강화학습을 다루며, 최근 로 복잡한 개발 작업을 자동화하고 를 실험하고 있다.
본인의 일일 도 업무상 적지 않은 편이지만, 커뮤니티에서 언급되는 하루 수십억 토큰 규모에는 전혀 미치지 못한다고 말한다. 이런 대량 소비가 자동화된 파이프라인을 돌려서 나온 결과인지, 그리고 그런 파이프라인이 실제로 잘 작동하는지 아니면 비효율적으로 낭비되는 것인지 다른 사용자들의 경험을 묻고 있다.
핵심 포인트
- 작성자는 고성능 컴퓨팅·강화학습 분야 로, 로 개발 자동화와 를 실험 중
- 본인의 일일 도 업무상 상당하지만 커뮤니티에서 언급되는 하루 수십억 토큰에는 못 미친다고 밝힘
- 그 정도 소비가 때문인지, 그런 파이프라인이 잘 작동하는지 궁금해함