LLM 전용 언어로 토큰과 비용을 줄일 수 있을까
LLM이 코드를 더 적은 토큰으로 쓰도록, LLM 전용 를 만들자는 아이디어다. 이 언어는 각 토큰에 더 많은 뜻을 담거나 더 좁고 정확한 기능을 담아서, 파이썬보다 짧은 표현으로 같은 작업을 하게 만드는 것을 목표로 한다.
충분한 가 있다면 LLM이 더 빠르게 코드를 만들고, 도 줄일 수 있다는 가정이 깔려 있다. 안에 파이썬 코드보다 훨씬 더 많은 작업 내용을 넣을 수 있다는 주장도 있다.
세미콜론이나 중괄호처럼 사람에게 익숙한 문법 요소가 LLM에는 불필요한 잡음일 수 있으므로, 그런 요소를 줄이면 코드 작성 능력이 좋아질 수 있다는 생각이다. 다만 이는 아직 실험 결과가 아니라 가능성을 묻는 이론적 제안이다.
핵심 포인트
- LLM 전용 로 같은 코드를 더 적은 토큰에 담자는 제안이다.
- 토큰이 줄면 속도와 이 낮아질 수 있다.
- 큰 문맥 창 안에 더 많은 작업 내용과 코드 정보를 넣을 수 있다는 기대가 있다.
- 사람용 문법 요소를 줄이면 LLM 입장에서 잡음이 줄어들 수 있다는 가정이 있다.
- 아직 검증된 기술이 아니라 이론적 아이디어다.