문서를 잘게 연결해 AI 에이전트 비용을 줄이는 OmniOKF
OmniOKF는 복잡한 PDF, Word, Excel, PowerPoint, HTML, 문서를 가 읽기 쉬운 작은 파일 묶음으로 바꾸는 다. 큰 문서를 그대로 문맥 창에 넣으면 느리고 비용이 많이 들기 때문에, 문서를 제목 단위로 나눈 뒤 로 다시 정리해 약 200~500토큰짜리 작은 개념 파일로 만든다.
이렇게 하면 에이전트가 질문에 필요한 부분만 불러올 수 있어, 쿼리마다 쓰는 토큰 비용을 75~95%까지 줄일 수 있다는 주장이다. 일반적인 문서 쪼개기는 관련 내용의 흐름을 끊기 쉬운데, OmniOKF는 생성된 파일들 사이에 관련 주제 링크를 자동으로 만든다.
Microsoft의 을 내부에서 사용해 여러 파일 형식을 메모리 안에서 읽으며, Pandoc 같은 무거운 변환 도구나 별도 없이 작동하는 것을 목표로 한다. Mermaid 시각화도 만들어 문서 사이의 연결 구조를 볼 수 있게 한다.
핵심 포인트
- OmniOKF는 여러 형식의 문서를 작은 개념 파일로 바꾼다.
- 파일은 보통 200~500토큰 크기로 나뉘어 에이전트가 필요한 부분만 읽도록 설계됐다.
- 가 문서 조각을 더 작고 의미 있는 단위로 정리하고 분류한다.
- 생성된 파일 사이에는 상대 링크가 자동으로 붙어 관련 내용을 따라갈 수 있다.
- 별도 나 Pandoc 같은 무거운 도구 없이 쓰는 것을 목표로 한다.