AI 에이전트를 만들고 토큰·비용을 아끼는 데 도움이 되는 오픈소스 도구와 기법을 모읍니다.
오랫동안 Qwen2.5 7B 양자화 모델과 llama.vscode 확장 프로그램을 함께 써서 코딩 자동완성을 처리해 왔다. 이 조합은 아직 쓸 수 있지만, Cursor 같은 클라우드 도구와 비교하면 성능 차이가 커지고 있다. Qwen3 Coder와 Qwen3 Coder Next는 작동하지만 너무 커서 부담이 된다. 큰 3090 그래픽카드들은 Qwen 3.6 27B를 대화형·에이전트용으로 돌리는 데 쓰고 있어서, 자동완성용으로는 3060 한 장이나 로컬 맥북 정도만 남는다. Qwen3는 자동완성에 맞지 않았고, Qwen 3.5와 Qwen 3.5 Base는 Qwen2.5보다 훨씬 느리고 기본적인 완성만 가능했다. Granite 4도 작동은 하지만 Qwen2.5보다 품질이 낮았다. 핵심 고민은 Qwen2.5나 큰 Qwen3 Coder 계열 말고, 가벼우면서도 쓸 만한 로컬 자동완성 모델이 있는지다.
react-native-executorch에 Gemma 4 실행 기능이 추가됐다. React Native 앱 안에서 인터넷 연결 없이 모델을 돌릴 수 있다. 안드로이드에서는 Vulkan을 통해 그래픽 처리 장치를 쓰고, Apple Silicon 기기에서는 MLX를 통해 가속한다. 함께 제공된 데모 앱으로 실제 실행 모습을 확인할 수 있다.
두 번째 RTX 3090 그래픽카드를 추가한 개인용 로컬 인공지능 장비 구성이다. 케이스는 Thermaltake Core P3이고, 두 그래픽카드가 들어갈 공간을 만들기 위해 라디에이터를 비스듬히 고정하는 3D 프린팅 브래킷을 따로 만들었다. 이 구성은 Qwen 27B 모델을 로컬 컴퓨터에서 돌리는 데 쓰인다. 핵심 내용은 새 소프트웨어나 성능 수치가 아니라, 큰 로컬 모델을 돌리려면 그래픽카드 자리, 냉각 장치 위치, 물리적 고정 방식까지 직접 해결해야 할 수 있다는 점이다.
KV 양자화를 q4_0 수준으로 낮춰도 긴 문맥 안의 정보를 정확히 찾아냈다. 테스트에서는 100k 컨텍스트 안에 들어 있는 내용을 물었고, 답이 맞게 나왔다. 초안 모델의 KV도 q4_0으로 낮춘 상태였다. 처음 예시는 해리 포터 관련 내용이어서 학습 데이터에 이미 들어 있었을 가능성이 제기됐다. 그래서 더 나중에 이탈리아어로 나온 2026년 책의 덜 알려진 문장을 넣어 다시 확인했다는 설명이 붙었다.
일반 RAG는 사용자의 질문을 숫자 벡터로 바꾸고, 관련 문서 조각 몇 개를 한 번 찾아서, 그 내용을 LLM에 넣은 뒤 답을 만듭니다. 이 방식은 데모에서는 좋아 보이지만, 질문이 여러 부분으로 나뉘거나 여러 자료를 비교해야 할 때 쉽게 약해집니다. 처음에 잘못된 문서 조각을 가져오면, LLM은 부정확한 근거를 바탕으로 그럴듯하지만 틀린 답을 만들 수 있습니다. Agentic RAG는 한 번 찾고 끝내는 직선형 절차가 아니라, 에이전트가 중심에서 계속 판단하는 반복 구조를 씁니다. 에이전트는 어떤 자료를 찾아야 할지 계획하고, 질문을 적절한 경로로 보내고, 나온 답이 충분한지 스스로 확인한 뒤, 더 필요한 정보가 있으면 다시 찾습니다. 핵심 차이는 단순히 한 번 검색하는 시스템과, 여러 단계를 거쳐 문제를 점검하는 시스템의 차이입니다. 제목에서는 이 방식으로 API 지연 시간을 45밀리초 줄였다고 하지만, 제공된 내용에는 그 절감 방법이나 측정 조건은 나오지 않습니다.
claude-opus48-context-packer는 Claude Opus 4.8과 Fable 5 / Mythos 5에 맞춘 토큰 및 컨텍스트 창 최적화 도구다. 큰 코드베이스에서 불필요하게 많은 내용을 줄이고, 깊게 얽힌 의존성 구조를 다시 정리해 긴 추론 작업에 필요한 입력을 더 촘촘하게 담는 것을 목표로 한다. AI 에이전트가 코드 전체를 이해하거나 여러 파일 사이의 관계를 따라가야 할 때, 모델에 넣는 정보량을 줄여 컨텍스트 창을 더 오래 쓰게 하는 방향의 도구다. 공개된 설명 기준으로는 코드베이스 비대화, 깊은 의존성 트리, 긴 추론, 에이전트 작업을 직접 겨냥한다.
이 에이전트는 비싼 고급 모델을 모든 작업에 쓰지 않고, 설계와 계획 단계에만 쓰는 구조다. 실제 코드 작성이나 반복 작업처럼 토큰이 많이 드는 부분은 개인용 듀얼 RTX 3090 장비에서 돌아가는 로컬 모델이 맡는다. 목표는 고급 모델의 판단력과 로컬 모델의 낮은 실행 비용을 함께 얻는 것이다. Qwen 3.5/3.6 27B와 Gemma 4 31B 같은 로컬 모델은 성능이 좋지만, 고급 모델만큼의 감각이나 문제 해결력은 부족하다고 판단했다. 핵심 생각은 소프트웨어 프로젝트에서 병목은 대개 구현보다 설계이며, 좋은 설계가 복잡한 코드와 재작업을 줄인다는 것이다. 구조는 설정 파일로 바꿀 수 있는 3단계 방식이며, 계획 담당 모델은 Codex처럼 결정 내용을 JSON으로 내보낼 수 있는 강한 모델을 쓸 수 있다. 기존 도구를 많이 활용하고, 각 구성요소는 필요에 따라 바꿀 수 있게 만들었다.
VectorLens는 HNSW 벡터 검색이 어떻게 움직이는지 3D 화면으로 단계별로 보여주는 학습 도구다. HNSW는 Pinecone, Qdrant, Weaviate 같은 벡터 데이터베이스에서 자주 쓰이는 검색 방식이다. 이 도구는 검색 과정에서 어떤 지점을 따라가며 후보를 좁히는지, 각 후보의 유사도 계산이 어떻게 되는지 시각적으로 보여준다. HNSW 방식과 완전탐색 벡터 검색도 비교할 수 있다. 구현은 일반 자바스크립트로 직접 만들었고, 3D 화면도 HTML5 Canvas로 직접 그렸으며 Three.js나 WebGL은 쓰지 않았다. 실사용 서비스라기보다 벡터 검색 원리를 이해하기 위한 공개 데모와 GitHub 코드에 가깝다.
agy-delegate는 에이전트가 많은 파일, 긴 로그, 여러 웹페이지처럼 읽을 양이 큰 작업을 더 싼 LLM에 맡기게 해 주는 에이전트 기술이다. 핵심 목적은 주 에이전트의 컨텍스트를 깨끗하게 유지하고, 최종 요약이나 목록만 다시 받아 토큰 사용을 줄이는 것이다. 적합한 작업은 세 조건을 만족해야 한다. 읽을 양이 크고, 각 단계에 깊은 판단이 많이 필요 없으며, 원문 전체가 아니라 최종 결과만 필요해야 한다. 예시는 저장소 전체의 API 목록 뽑기, 환경 변수 찾기, 할 일 표시 확인, 긴 로그 요약, 큰 코드베이스 구조 요약, 여러 페이지를 훑은 뒤 통합 요약 만들기다. 단순히 “어디에 X가 있나”처럼 빠른 검색이면 기존 검색 도구를 쓰는 편이 낫다. 사용하려면 Antigravity CLI를 설치하고 로그인한 뒤, SKILL.md를 Claude Code, Cursor, Codex, OpenCode 같은 도구의 기술 폴더에 넣는다. 작업이 크면 기본 5분인 출력 제한 시간을 늘릴 수 있고, 싼 모델의 결과는 목록화에는 쓸 만하지만 판단에는 약할 수 있어 확인이 필요하다.
AI 코딩 에이전트가 큰 코드베이스에서 너무 많은 파일을 한꺼번에 읽으면 API 비용이 크게 늘 수 있다. Cline이나 Cursor 같은 도구가 버그 수정을 위해 코드의 큰 부분을 LLM 문맥에 넣으면서, 프롬프트가 수백만 토큰까지 커지고 하루 약 100달러의 API 크레딧이 들었다. 정보가 너무 많아지면 LLM이 중요한 중간 내용을 놓치는 문제가 생기고, 파일 사이의 의존 관계를 제대로 이해하지 못해 관련 없는 파일까지 망칠 수 있다. AI Memory OS는 VS Code 안에서 작게 돌아가는 LanceDB를 써서 파일을 색인하고 추상 구문 트리(AST) 그래프를 만든다. 에이전트가 작업하기 전에 이 로컬 메모리 도구에 먼저 물어보면, 필요한 코드 조각 8~10개만 받고 특정 파일을 고칠 때 다른 파일이 영향을 받을 수 있다는 경고도 받는다. 목표는 에이전트가 전체 코드베이스를 무작정 읽지 않게 해서 토큰 사용량, 비용, 실수를 함께 줄이는 것이다.
개인 개발자가 Claude로 Next.js 프로젝트를 만들 때 사용량 한도에 빨리 닿지 않도록 작업 방식을 정리한 내용이다. 핵심은 한 번에 큰 일을 맡기지 않고, 작업 범위를 작게 나누어 Claude가 처리할 내용을 정확히 지정하는 것이다. 새 작업은 새 대화에서 시작해 불필요한 이전 대화 내용이 계속 따라오지 않게 한다. 프로젝트 규칙과 구조, 자주 쓰는 명령, 코딩 기준은 CLAUDE.md 파일에 정리해 Claude가 매번 같은 배경 설명을 다시 요구하지 않게 한다. GitHub MCP를 연결하면 Claude가 저장소와 작업 흐름을 더 직접적으로 참고할 수 있어 반복 설명을 줄일 수 있다. 모델 사용도 구분한다. 복잡한 설계나 어려운 문제에는 더 강한 설정을 쓰고, 단순 수정이나 확인에는 낮은 비용의 설정을 써서 크레딧을 아낀다. 마지막으로 결과를 일찍 검증해 잘못된 방향으로 긴 대화를 이어가며 사용량을 낭비하지 않도록 한다.
ZCode는 GLM 제작진이 만든 새 에이전트형 코드 편집기로 소개된다. 개발자가 코드를 쓰고 고치는 일을 인공지능이 더 적극적으로 도와주는 도구로 보인다. 제공된 내용에는 기능, 가격, 지원 모델, 오픈소스 여부, 토큰 사용량, 비용 절감 방식 같은 세부 정보가 없다. 따라서 AI 에이전트 구축에 실제로 얼마나 도움이 되는지, 추론 비용을 줄이는 효과가 있는지는 아직 판단하기 어렵다.
XML 데이터를 다루는 프로젝트에서 BigQuery 대신 RAG를 쓰는 방안이 검토되고 있습니다. 핵심은 데이터베이스처럼 큰 데이터를 조회하고 분석하는 도구를, 필요한 내용을 찾아 답을 만드는 방식으로 바꿀 수 있는지입니다. 구체적인 데이터 크기, 비용, 속도, 정확도, 설계 방식은 제시되지 않았습니다. 따라서 실제 장단점은 XML 문서의 양, 질문 종류, 필요한 정확도, 기존 BigQuery 사용 방식에 따라 달라집니다.
AI로 앱이나 도구를 여러 번 고쳐 만들 때, 매번 이전 작업을 다시 설명하지 않도록 현재 상태를 저장하고 불러오는 기능을 기본으로 넣는 방식이다. 모든 버전에는 현재 작업 상태를 plain-text JSON으로 내보내는 “Copy full state” 버튼이나 동작이 있어야 한다. 이 상태는 clipboard에 복사되며, 복사가 실패하면 텍스트 상자, 팝업, 입력칸, 내려받을 수 있는 .json 파일 같은 다른 방법으로 직접 복사할 수 있어야 한다. 다음 버전에는 “Paste state” 또는 “Load state” 기능을 넣어, 이전에 저장한 상태 JSON을 붙여넣으면 같은 상태로 복원되게 한다. 불러오기 기능은 JSON이 올바른지 먼저 확인해야 하며, 일부 값이 없거나 오래되었거나 잘못되어도 앱이 멈추지 않고 가능한 범위에서 복구해야 한다. 나중에 AI에게 저장된 상태를 다시 보내면, AI는 그것을 다음 빌드의 기본 시작점으로 사용해야 한다.
Tenstorrent의 P150a 카드는 로컬 AI용 대체 하드웨어 후보로 거론된다. 이 카드는 메모리 대역폭이 512GB/s로 아주 높은 편은 아니지만, 32GB GDDR6 메모리를 갖고 있다. 또 4×800GbE 수준의 빠른 이더넷 패브릭을 제공해 여러 장의 카드를 묶을 때 PCIe에만 기대지 않아도 된다는 점이 장점으로 보인다. 가격은 RTX 5090의 약 3분의 1로 언급되며, GPU 메시를 기본 지원한다는 점도 비용 대비 확장성 측면에서 흥미로운 부분이다. 다만 실제 로컬 AI 작업에서 하드웨어와 소프트웨어 환경이 얼마나 안정적인지는 아직 확인이 필요한 핵심 문제다.
Continuum은 길어진 AI 대화를 새 대화창으로 이어 갈 수 있게 해 주는 브라우저 확장 프로그램이다. 기존 대화의 메시지, 이미지, 파일, 코드 내용을 PDF나 마크다운 파일로 묶어 새 대화에 가져갈 수 있다. Chrome과 Firefox에서 공개되어 있으며, 계정이나 외부 서버 없이 브라우저 안에 데이터를 저장한다고 밝힌다. 현재 Claude, ChatGPT, Gemini에서 작동한다. Perplexity는 Chrome 심사 중이고, Grok, DeepSeek, Copilot 지원도 추가될 예정이다. 대화 내용을 줄여 같은 컨텍스트를 더 적은 토큰으로 전달하는 AI 압축 기능도 포함되어 있다.
llama.cpp에 Command A Plus와 North Mini Code 지원이 주말에 추가됐다. North Mini Code는 이미 Unsloth에서 GGUF 파일을 받을 수 있었다. Command A Plus는 최신 GGUF 파일을 찾기 어려워 직접 변환하고 양자화한 파일이 만들어졌다. GGUF 파일은 개인 컴퓨터나 서버에서 대형 언어 모델을 더 쉽게 실행하는 데 쓰이는 형식이다. 양자화는 모델을 더 작게 만들어 실행 비용과 필요한 메모리를 줄이는 방법이다.
Hermes 사용 경험에 따르면, Claude에 맞춰 만들어진 last30days 스킬을 꼭 Claude로 실행하지 않아도 됐다. Hermes에 Deepseek-v4-flash를 연결한 상태에서 그 스킬을 쓸 수 있는지 물었고, Hermes가 스킬의 구조와 목적을 파악한 뒤 Hermes에서 바로 쓸 수 있는 자체 버전을 만들었다. 핵심은 비싼 모델을 새로 추가하지 않고도 기존 스킬의 기능을 비슷하게 옮길 수 있었다는 점이다. 원문에는 테스트와 결과 화면이 붙어 있었지만, 본문에서 확인되는 구체적 수치나 성능 비교는 없다. 경험자는 Hermes를 약 30일 사용한 초보에 가깝고, 이 결과가 예상보다 크게 인상적이었다고 느꼈다.
통합 실행 프레임워크는 AI 에이전트가 긴 작업을 하다가 목표를 잊거나 결과 품질이 흔들리는 문제를 줄이기 위한 작업 방식이다. 핵심은 목표를 계속 보존하고, 상황에 맞게 실행 방식을 조정하며, 중간 결과를 반복해서 점검하고, 실패 가능성을 미리 막는 것이다. 긴 프로젝트에서 작업의 이어짐이 끊기면 같은 설명을 다시 넣어야 하고, 잘못된 결과를 사람이 고치느라 토큰과 시간이 더 든다. 이 방식은 AI 에이전트를 매번 따로 답하는 도구가 아니라, 하나의 흐름을 유지하며 검증된 결과를 내는 실행 시스템처럼 다루려는 접근이다. 적용 분야는 품질 관리, 토큰 절약, 컨텍스트와 메모리 관리, 디버깅, CLAUDE.md, 다중 에이전트 작업이다. 난이도는 고급으로 분류되어 있어, 바로 쓰기보다는 작업 규칙을 잘 정리해 적용해야 한다.
llama.cpp의 윈도용 CUDA 12.4 릴리스를 내려받아 llama-server를 실행하려 하자 Windows Defender가 실행을 막았다. 경고 이름은 Wacatac.H!ml이었고, Windows Defender는 폴더 안의 llama-server-impl.dll 파일을 삭제했다. 이전 릴리스는 같은 환경에서 정상 작동했다. 댓글에서는 Wacatac.H!ml이 흔한 오탐일 수 있고, H!ml은 휴리스틱 탐지라서 확정 판정이 아니라 추정에 가깝다는 의견이 나왔다. 그래도 실제 감염이나 공급망 공격 가능성을 배제할 수 없으므로, 같은 파일을 실행하기 전에 VirusTotal에 올려 확인하라는 조언이 있었다.
GPT-4o는 ChatGPT 웹 화면에서 이미지 속 물건의 부피를 추정할 때 좋은 결과를 냈지만, 같은 모델을 OpenAI API로 쓰면 같은 이미지에서도 재시도마다 다른 답을 냈다. API 결과는 웹 화면과 다르게 나왔고, 정확도도 낮았다. 목표는 이미지 입력을 받아 물건 부피를 추정하는 앱을 만드는 것이다. API 설정값을 바꾸고 여러 시스템 프롬프트를 시도했지만, 원하는 수준의 일관성과 정확도는 얻지 못했다.
개인용 AI 에이전트는 이메일 도우미, 회의 요약, 여행 계획, 쇼핑 도우미처럼 익숙한 일상 업무에 많이 만들어지고 있다. 이런 에이전트는 시연용으로는 흥미롭지만, 사람들이 매일 계속 쓰는 도구로 자리 잡은 사례는 잘 보이지 않는다. 핵심 질문은 실제로 오래 쓰이는 AI 에이전트가 무엇인지, 아니면 아직 누구나 원할 만한 결정적 활용처가 나오지 않았는지다. 단순한 데모나 주말 프로젝트가 아니라, 실제 사용이 이어지는 사례가 필요하다는 문제의식이 담겨 있다.
마케팅 업무에서 반복적으로 시간이 드는 일은 여러 플랫폼의 숫자를 손으로 모으는 작업이다. 각 플랫폼의 성과 데이터를 한곳으로 가져오면 대시보드를 만들 수 있지만, 모든 플랫폼이 데이터를 쉽게 내주지는 않는다. 그래서 마케팅 AI 에이전트가 실제로 일하려면 먼저 트위터, 유튜브, 틱톡, 인스타그램, 링크드인 같은 채널에서 데이터를 안정적으로 가져오는 기반이 필요할 수 있다. 핵심 질문은 사람들이 어떤 플랫폼 연결을 가장 원하고, 어떤 반복 업무를 바로 AI에게 맡기고 싶은지다. 또 AI 에이전트가 마케팅 업무를 대신할 때 사용자가 가장 중요하게 볼 기준이 무엇인지가 제품 방향을 정하는 데 중요하다.
챗봇은 웹을 찾아 최신 정보를 확인할 수 있지만, 많은 AI 에이전트는 정해진 응용 프로그램 인터페이스만 호출한다. 그래서 “지금 최신 파이썬 버전이 무엇인가”처럼 현재 시점이 중요한 질문에 낡은 학습 지식으로 답할 수 있다. DynamicFeed는 이런 빈틈을 줄이기 위해 만든 실시간 데이터 계층이다. 한 번 호출하면 현재 값을 구조화된 형태로 받을 수 있고, Ed25519 서명으로 데이터가 바뀌지 않았는지 확인할 수 있다. 가입이나 키 없이 써볼 수 있으며, 테스트 화면에서 값의 한 글자만 바꿔도 서명이 깨지는 것을 볼 수 있다. 사용 예시는 미국 주식시장이 지금 열려 있는지, 특정 서비스가 장애인지, 오늘 실제로 악용되는 보안 취약점이 무엇인지처럼 검색보다 즉시성과 신뢰 확인이 중요한 정보다.
AI 에이전트를 만들고 있으며, 사용자가 모바일에서 쓸 수 있게 배포할 방법이 필요하다. 텔레그램이나 슬랙 봇은 이미 떠올린 선택지지만, 결과를 보기 좋게 보여주는 화면 구성이 부족하다고 느낀다. 필요한 것은 도구 호출 결과와 화면 구성요소를 풍부하게 보여줄 수 있는 라이브러리나 도구다. 핵심 고민은 에이전트의 답변을 단순 채팅이 아니라 모바일에서 보기 좋은 인터페이스로 전달하는 방법이다.
Leangetic은 운영 중인 AI 에이전트가 비싸고 느리거나 통제하기 어려워질 때 비용을 낮추도록 돕는 도구다. 많은 에이전트는 파싱, 경로 선택, 검증, 형식 맞추기, 재시도, 반복되는 문맥 처리처럼 규칙으로 처리할 수 있는 일에도 LLM을 계속 부른다. Leangetic은 에이전트가 실제로 어떻게 실행되는지 관찰하고, 비용이 크거나 반복되는 모델 호출을 찾아낸다. 그다음 안전한 부분은 결정론적 코드로 바꾸고, AI 판단이 필요한 부분은 더 작고 집중된 모델 호출로 남긴다. 필요한 곳에는 캐싱, 프롬프트 압축, 모델 라우팅도 적용한다. 원래 에이전트는 직접 바꾸지 않으며, 로컬 CLI가 그림자 모드로 먼저 실행된다. 자체 트래픽에서 비용이 더 낮고 품질이 같거나 더 좋다는 점이 확인된 뒤에만 변경이 승격된다. 의심스러운 경우에는 원래 에이전트로 되돌아가고, 즉시 롤백할 수 있다.
EAGLE 지원이 llama.cpp에 병합됐다. llama.cpp는 개인 컴퓨터나 서버에서 AI 모델을 직접 실행할 때 많이 쓰는 오픈소스 도구다. EAGLE은 모델이 다음 말을 더 빨리 만들도록 돕는 방식으로, 추측 디코딩 계열의 속도 개선 기술이다. 이 변화는 로컬 AI 모델을 더 빠르게 돌리고, 같은 작업에 드는 대기 시간과 컴퓨팅 부담을 줄이는 데 도움이 될 수 있다. 다만 실제 절감 효과는 쓰는 모델, 하드웨어, 설정에 따라 달라진다.
원문 텍스트를 가져와 정리한 뒤, 겹치는 부분이 있는 작은 조각으로 나누어 주변 문맥을 잃지 않게 한다. 각 조각에서 사람, 회사, 제품 같은 이름 있는 대상을 뽑고, 같은 조각에 함께 나온 대상끼리 연결해 지식 그래프를 만든다. 이 그래프는 어떤 대상들이 서로 관련되어 있는지와 그 근거가 된 문서 조각을 함께 저장한다. 그래프 안의 대상들은 주제별 묶음으로 나뉘고, 각 묶음에서 무작위로 고른 문서 조각을 LLM에 보내 큰 주제 요약을 만든다. 검색 단계에서는 문서 조각 전체를 밀집 벡터 저장소에 넣고, 같은 자료에 대해 BM25 색인도 만든다. 질문이 들어오면 의미가 비슷한 조각을 찾는 검색과 단어가 잘 맞는 조각을 찾는 검색을 함께 돌리고, 질문에서 뽑은 대상을 기준으로 그래프의 가까운 연결도 따라가 관련 조각을 더 찾는다. 마지막에는 여러 경로에서 나온 결과를 합치고 재순위화해 답변에 쓸 자료를 고른다. 목표는 긴 문서 검색에서 중요한 내용이 가운데에 묻혀 빠지는 문제를 줄이고, 여러 단계를 거쳐야 하는 질문에 더 좋은 근거를 주는 것이다.
고객 지원 에이전트의 시스템 프롬프트를 말투 중심으로 조금 바꾼 뒤, 기존 평가는 모두 통과했다. 하지만 실제로는 주문 상태를 확인할 때 써야 하는 `lookup_order` 도구를 더 이상 호출하지 않았다. 에이전트는 실제 주문 데이터를 확인하지 않고 메모리에서 답을 만든 것처럼 배송 상태를 말했고, 그 답은 유창하고 친절해 보여 평가를 통과했다. 문제는 최종 답변의 문장만 검사했기 때문에 생겼다. 정확히 맞는지, 뜻이 비슷한지, 도움이 되는지 보는 평가는 모두 답변 텍스트만 봤다. 에이전트에서 실제로 위험한 고장은 도구 호출 누락, 잘못된 도구 사용, 허가가 필요한 위험한 도구 실행, 불필요한 반복, 모델 교체 뒤 지연 시간과 비용 증가처럼 행동 쪽에서 생길 수 있다.
AI 에이전트는 답을 틀려도 스스로 그 오류를 알아차릴 방법이 부족하다. 문제는 실수 자체가 아니라, 답을 만드는 중에 “이 정보가 어디서 나온 것인지”를 점검하는 장치가 없다는 점이다. 실제로 관찰한 내용, 앞 단계에서 추론한 내용, 한 번 지어낸 환각이 모두 비슷한 무게로 취급될 수 있다. 그래서 AI 에이전트 내부에서는 사용자가 준 사실과 스스로 만들어낸 내용이 똑같이 확실한 것처럼 남을 수 있다. 필요한 것은 단순한 메모리보다, 정보마다 확신의 정도를 다르게 다루는 ‘의심’에 가까운 기능이라는 주장이다.