FaultLine, AI 메모리로 필요한 정보만 불러 토큰을 줄이려는 도구

FaultLine은 AI가 사용자의 지식과 관계를 오래 기억하고 다시 꺼내 쓰게 하려는 개인용 이다. 짧게 쓰는 기억은 Qdrant에, 오래 보관할 기억은 에 나누어 저장하는 방식에서 출발했다. 새 정보를 넣을 때 관련 개념 사이의 연결을 만들고, 시간이 지나며 사물과 관계를 스스로 정리하는 온톨로지를 키우는 방향으로 발전했다.

질문이 들어오면 필요한 내용만 돌려주어 불필요한 문맥을 줄이는 데 초점을 둔다. 을 함께 써서 넓은 범위의 기억을 찾고, 사용자는 기억을 확인하거나 고치거나 철회할 수 있다. 온라인 자료나 언어 모델을 이용해 관계를 미리 배우게 하는 `/extend` 기능도 있다.

같은 여러 사용처에서 쓸 수 있도록 질의 방식을 다듬고 있으며, 목표는 RAG 기반 메모리와 회상을 더 정확하고 토큰을 덜 쓰게 만드는 것이다.

핵심 포인트

  • 짧은 기억은 Qdrant, 긴 기억은 에 나누어 저장하는 구조를 쓴다.
  • 정보를 넣을 때 개념 사이의 관계를 자동으로 만들고 온톨로지를 키운다.
  • 질문에 필요한 기억만 꺼내 불필요한 문맥과 토큰을 줄이려 한다.
  • 사용자가 저장된 기억을 확인, 수정, 철회할 수 있다.
  • 온라인 자료나 언어 모델로 관계를 미리 배우게 하는 `/extend` 기능이 있다.
원문 보기