LiquidAI, 작은 다국어 검색 모델 2종 공개
LiquidAI가 LFM2.5 기반의 3억5천만 파라미터 검색 모델 2종을 공개했다. LFM2.5--350M은 문서마다 하나의 벡터를 만들어 빠르게 검색하는 모델이며, 11개 언어를 오가는 검색에 맞춰져 있다. 같은 크기의 밀집 중 다국어 정확도가 높다고 소개된다.
LFM2.5-ColBERT-350M은 문서의 각 토큰마다 벡터를 저장하고, 질문과 문서의 잘 맞는 부분을 비교해 더 정밀하게 찾는 방식이다. 예를 들어 영어 상품 설명을 저장해 두고도 여러 언어의 질문으로 찾아낼 수 있다고 한다. 두 모델 모두 효율적인 LFM2 구조 덕분에 더 작은 모델과 비슷한 추론 속도를 낸다고 설명된다.
기존 에 바꿔 끼워 쓸 수 있는 GGUF 형식 모델이 에 공개되어 있다.
핵심 포인트
- LFM2.5--350M은 문서당 하나의 벡터를 만드는 빠른 다국어 검색 모델이다.
- LFM2.5-ColBERT-350M은 토큰별 벡터와 비교로 더 정밀한 검색을 노린다.
- 두 모델은 11개 언어 검색을 지원한다고 소개된다.
- 기존 에 교체용으로 넣을 수 있다고 한다.
- GGUF 형식 모델이 에 공개되어 에 활용할 수 있다.