LLM의 현재 병목은 메모리와 컨텍스트인가
을 쓸 때 지금 가장 큰 이 무엇인지 묻는 짧은 논의 주제다. 핵심 후보로 와 가 제시된다. 는 이전 대화나 작업 내용을 얼마나 잘 기억하고 다시 쓰는지와 관련된다.
는 한 번에 넣고 처리할 수 있는 정보의 양과 관련된다. 구체적인 실험, 수치, 해결책은 제시되지 않았다.
핵심 포인트
- 의 가장 큰 이 무엇인지 묻는 논의다.
- 후보로 와 가 직접 언급됐다.
- 구축에서는 긴 작업을 이어 가는 능력과 관련된다.
- 과 비용을 줄이는 구체적 방법은 제시되지 않았다.