VectFox 3.5, 긴 SillyTavern 대화용 요약 기능 추가
VectFox 3.5는 에서 긴 대화 기록을 다루기 위한 에 전용 요약기를 더했다. 최근 30개 사건을 에 넣어, 별도 요약 확장을 쓰는 것과 비슷한 효과를 내도록 했다.
영어에 묶여 있던 코드를 제거해 영어, 스페인어, 독일어, 일본어, 한국어, 중국어, 인도어, 태국어 등 여러 언어의 이야기에서 매칭과 임베딩이 작동하도록 바뀌었다. 2,000개가 넘는 답변을 22분 안에 벡터화하고 요약할 수 있다고 주장한다.
벡터화 중 연결이 끊겨도 처음부터 다시 하지 않고 중단 지점부터 이어서 처리한다. 대화 2,000개 이상, 각 답변 1,000단어 이상인 큰 이야기에서도 기존 메모리 확장들이 버티지 못해 만든 도구이며, 검색 결과를 3초 안에 돌려주는 것을 목표로 한다.
핵심 포인트
- VectFox 3.5는 에 요약기를 추가했다.
- 최근 30개 사건을 에 넣어 긴 대화의 흐름을 유지하려 한다.
- 영어 중심 코드를 제거해 한국어를 포함한 여러 언어의 매칭과 임베딩을 지원한다.
- 2,000개 이상 답변을 22분 안에 벡터화하고 요약할 수 있다고 주장한다.
- 작업 중 연결이 끊겨도 벡터화를 이어서 진행할 수 있다.