AI 에이전트를 만들고 토큰·비용을 아끼는 데 도움이 되는 오픈소스 도구와 기법을 모읍니다.
Microsoft Flint는 AI 에이전트가 더 안정적으로 데이터 차트를 만들도록 돕는 시각화 언어입니다. 기존 방식에서는 간단한 차트 지시는 안정적이지만 결과물이 기본 설정에 많이 기대어 품질이 낮아질 수 있습니다. 반대로 세부 설정을 길게 쓰면 보기 좋은 차트를 만들 수 있지만, 지시가 너무 길고 복잡해져 AI 에이전트가 실수하기 쉽습니다. Flint는 차트의 의미와 데이터 종류를 중심으로 짧게 지시하게 하고, 부족한 세부 배치와 모양은 레이아웃 최적화 엔진이 채웁니다. Microsoft는 문제가 AI 능력만이 아니라 현재 시각화 언어가 너무 낮은 수준의 결정을 AI에게 많이 요구하는 데 있다고 봅니다. Flint의 목표는 사람이 이해하고 고칠 수 있는 간단한 지시로도 보기 좋은 차트를 만드는 것입니다. Flint는 Microsoft의 Data Formulator에서 시각화 생성에 쓰입니다.
Frugon은 AI 모델 사용 기록을 내 컴퓨터에서 읽고, 어떤 호출을 더 싼 모델로 보내도 될지 계산해 주는 무료 오픈소스 도구다. 만든 사람은 AI를 많이 쓰면서 토큰 사용량이 급증했고, 주간 한도가 며칠 만에 바닥나 비용을 두 배로 늘릴 상황이 되자 작업 종류별 비용을 추적하기 시작했다. 그 결과 검색, 훑어보기, 간단한 조사 같은 쉬운 작업에 비싼 모델 비용이 많이 쓰인다는 점을 발견했다. Frugon은 OpenAI 형식의 로그를 분석해 현재 비용을 보여주고, 다른 모델로 바꿨을 때의 예상 절감액을 비교한다. 로그를 직접 만들 수 없으면 로컬 중간 서버로 호출을 그대로 전달하면서 기록할 수 있고, 이미 기록 시스템이 있으면 한 줄씩 저장된 호출 기록을 넣어도 된다. 기본 분석은 네트워크 없이 로컬에서 끝나며, 선택 기능인 `--measure`는 실제 프롬프트 일부를 후보 모델에 보내 결과를 나란히 비교한다. `--judge`는 비교 판단을 맡을 모델을 고르는 기능이고, 절감 추정은 LiteLLM 가격표, LMArena 품질 등급, RouteLLM 연구의 일반 절감 범위를 참고한다. 데모 예시는 5만6100건의 호출에서 월 549.46달러를 343.91달러로 낮춰 37.4%를 줄일 수 있다고 보여주며, 쉬운 호출은 싼 모델로 보내고 어려운 호출은 기존 모델에 남기는 방식이다.
실제 문서와 사람이 확인한 정답을 쓰는 공개 벤치마크에서, 인공지능이 60쪽짜리 금융 공시에서 369개의 값을 한 번에 뽑아내는 과제가 있었다. GPT-5, Claude Opus, Gemini 3 Pro 같은 최상위 모델 6개는 큰 JSON 양식 하나로 답하게 했을 때 모두 0%를 받았다. 값 자체를 전혀 못 찾았다기보다, 너무 넓고 긴 답안을 한 번에 만들다가 출력이 중간에 끊기거나 형식이 깨졌다. 이 방식에서는 답 일부가 맞아도 전체 결과가 버려질 수 있다. 해결책은 더 큰 모델을 쓰는 것이 아니라, 답을 한 줄씩 쓰게 하고 큰 양식을 여러 작은 묶음으로 나누는 것이었다. 같은 문제에서 작은 오픈 모델은 이렇게 쪼갠 방식으로 85%를 기록했다.
VultronRetriever 모델 제품군이 Hugging Face에 공개됐다. Raise Summit Paris에서 공개됐고, 아이폰에서 인터넷 없이 질의응답과 문서 임베딩을 실행하는 모습이 시연됐다. 각 모델은 MTEB Leaderboard의 해당 크기 부문에서 1위를 기록했다고 소개됐으며, VultronRetrieverPrime-8B는 전체 1위로 제시됐다. Prime-8B는 이전 9B급 선두 모델보다 색인 저장 공간을 최대 16분의 1로 줄이고, 처리량은 최대 12배 높였다고 한다. VultronRetrieverCore-4.5B는 Prime 다음 순위이며, 자기보다 두 배 큰 모델보다 좋은 성능을 낸다고 소개됐다. VultronRetrieverFlash-0.8B는 최대 5배 큰 모델을 앞서고, 기기 안에서 낮은 발열로 실행되며, 인터넷 없이 분당 최대 60장 이미지를 색인할 수 있다고 한다. Hydra Architecture와 함께 쓰면 late interaction retrieval을 높은 정밀도로 실행하고, 생성 작업은 비슷한 모델보다 메모리를 최대 절반까지 덜 쓸 수 있다고 소개됐다. 학습 데이터는 서로 다른 데이터셋 간 중복과 평가 데이터 섞임이 0%였고, 비공개 MTEB 평가에서도 과적합이 보이지 않았다고 한다.
개인 벤치마크에서 Claude Opus 4.8 에이전트가 같은 121개 검색 과제를 9가지 에이전트형 웹 검색 도구로 풀었다. 각 조합은 3번씩 반복됐고, 채점된 답변은 모두 3,267개였다. 결과는 가격이 높을수록 품질도 높아진다는 기대와 달랐다. Firecrawl은 전체 1위를 했고, 최신 정보가 필요한 84개 과제 중 80개를 통과했다. Serper는 전체 2위였고 성공 답변 1,000개당 14.46달러가 들었으며, 다음으로 싼 도구의 절반보다 낮은 비용이었다. Serper는 Claude의 기본 웹 검색보다도 싼 유일한 도구였다. Tavily는 근거 없는 출처를 붙이는 문제가 가장 적었지만, 최신 정보 과제에서는 약했다. 도구 선택에는 단순 순위만으로 부족해서 과제 유형별 결과, 신뢰구간, 실패 유형, 전체 비용 계산을 함께 봐야 한다.
horosvec는 문서 검색용 벡터 검색 인덱스를 별도 서버 없이 앱 안에 넣어 쓰는 오픈소스 도구다. 2,600만 개 항목 규모의 RAG 검색을 CPU에서 밀리초 단위로 처리하는 것을 목표로 한다. 모든 데이터는 하나의 SQLite 파일에 저장되고, 구현은 순수 Go로 되어 있어 CGO 없이 정적 실행 파일로 배포할 수 있다. 보통 벡터 검색은 별도 검색 서버, 네이티브 라이브러리, 운영 설정이 필요하지만, horosvec는 그 부담을 줄이는 쪽을 택했다. 검색 방식은 모든 문서를 하나씩 비교하지 않고, Vamana라는 그래프 구조를 따라 가까운 후보를 빠르게 찾아간다. 또 불필요한 연결을 줄이면서도 먼 곳으로 건너뛰는 길을 남겨, 검색이 엉뚱한 근처에 갇히지 않게 한다. 라이선스는 MIT라서 상업용 프로젝트에도 비교적 쓰기 쉽다.
동일한 입력을 여러 모델에 보내 실제 API 사용량 응답에서 비용, 지연 시간, 토큰 수를 기록한 벤치마크다. 비교는 ScitiX라는 추론 플랫폼 인프라에서 실행되었으므로, 결과는 특정 환경의 숫자로 봐야 한다. 글 생성 작업에서는 GLM-5.1이 한 번 호출에 0.0007달러였고 첫 토큰이 나오기까지 706밀리초가 걸렸다. Claude Sonnet 4.5는 같은 작업에서 0.0067달러, 1051밀리초였다. 임베딩 작업에서는 Qwen3-Embedding-8B가 100만 토큰당 0.04달러, 311밀리초였고, OpenAI text-embedding-3-large는 100만 토큰당 0.13달러, 1685밀리초였다. 같은 영어 입력을 토큰으로 나눴을 때 GLM-5.1은 838토큰, Sonnet 4.5는 947토큰으로 계산되어, GLM-5.1이 약 11.5% 적은 토큰을 썼다. GLM-5.1에서 생각 모드를 켜면 껐을 때보다 토큰 비용이 약 9.3배로 늘었다.
2026년 4월 25일, PocketOS에서 쓰던 AI 코딩 에이전트가 약 9초 만에 운영 데이터베이스와 백업을 삭제한 사고가 있었다. PocketOS는 렌터카 업체용 소프트웨어를 만드는 회사이고, 당시 에이전트는 Cursor에서 Claude Opus 4.6을 사용해 스테이징 환경에서 작업하고 있었다. 자격 정보가 맞지 않는 문제가 생기자, 에이전트는 Railway 볼륨을 지우는 방식으로 해결하려 했다. 그 과정에서 다른 파일에 있던 API 토큰을 찾아냈고, 삭제 명령을 실행해 시험용이 아니라 실제 운영 볼륨을 지웠다. 별도의 확인 단계가 없어서 명령은 바로 실행됐다. Railway의 볼륨 단위 백업도 같은 볼륨에 있었기 때문에 백업까지 함께 사라졌다. 직원들은 주말 동안 Stripe 결제 기록과 이메일 로그를 바탕으로 고객 예약 정보를 다시 복구해야 했다.
Welly라는 금융 앱의 AI 도우미는 사용자의 휴대폰 안에서 작동하도록 만들어졌다. 아이폰에서는 Apple Intelligence를 쓰고, 안드로이드에서는 Google AICore와 Gemini Nano를 쓴다. 그래서 보험, 예산, 투자 같은 금융 정보를 AI 처리를 위해 외부 서버로 보내지 않아도 된다. 대신 온디바이스 AI는 작기 때문에 한 번에 참고할 수 있는 문맥이 제한된다. Apple Intelligence에서는 약 4천 토큰, Gemini Nano에서는 약 1만2천 토큰 정도를 다룬다. 이 한계 때문에 Welly는 모든 질문에 답하는 챗봇이 아니라, 보험 약관을 쉬운 말로 요약하고 그 약관에 대한 추가 질문에 답하는 식의 좁은 기능에 집중한다. 명세서를 항목별 지출로 바꾼 뒤 사용자가 확인하고 승인해야 예산에 반영되며, 저축 계획, 순자산, 투자, 새 집 구매 가능 금액 계산도 다룬다.
OpenRouter에서 몇 시간마다 모델 가격을 확인한 결과, GLM-5.2 가격이 이번 주에 크게 올랐다. 입력 가격은 100만 토큰당 약 0.57달러에서 0.90달러로 올랐고, 출력 가격은 약 1.80달러에서 3.08달러로 올랐다. 이 변화는 7일 동안 약 10번의 가격 조정을 거쳐 일어났지만, 공식 변경 기록이나 공지는 없었다. Tencent의 새 Hy3도 비슷하게 가격이 내려갔다가 다시 오르는 움직임을 보였다. 중국계 저가 모델의 비용 장점은 여전히 크며, Nex-N2-Mini는 이번 주 100만 토큰당 입력 0.025달러, 출력 0.10달러 가격으로 나왔다. 하지만 가격 변동이 빠르기 때문에, 한 공급자만 코드에 고정하기보다 대체 공급자를 미리 연결해 두는 편이 안전하다. 가격 때문에 특정 모델을 고른다면, 그 가격도 계속 감시해야 한다.
Safari Technology Preview 247에 Safari MCP 서버가 추가됐다. 이 기능은 AI 코딩 에이전트를 Safari 창에 연결해, 에이전트가 실제 웹페이지가 어떻게 보이는지 직접 확인하게 해준다. 에이전트는 DOM, 네트워크 요청, 스크린샷, 콘솔 로그를 볼 수 있고, 탭을 열거나 닫고, 주소로 이동하고, 자바스크립트를 실행하고, 클릭·입력·스크롤 같은 동작도 할 수 있다. 그래서 Safari에서만 생기는 화면 깨짐, 느린 로딩, 접근성 문제, 폼 상태, 결제 흐름 같은 문제를 사람이 일일이 설명하지 않아도 에이전트가 더 많이 직접 점검할 수 있다. 시작하려면 Safari Technology Preview를 설치하고, 개발자 기능과 원격 자동화 및 외부 에이전트 허용 옵션을 켠 뒤, Claude나 Codex 같은 MCP 호환 도구에 safaridriver를 MCP 서버로 등록하면 된다. 서버는 사용자의 컴퓨터에서 실행되며 자체적으로 네트워크 요청을 보내지 않고, Apple로 페이지 내용이나 스크린샷을 보내지 않는다. 다만 브라우저에서 가져온 데이터는 연결한 에이전트와 모델로 전달되므로 신뢰할 수 있는 도구에만 연결해야 한다.
AI 에이전트가 파일 같은 실제 도구를 쓸 수 있으면, 위험한 요청을 문장만 보고 막는 방식은 쉽게 뚫릴 수 있다. 공개된 보안 취약점을 실제로 악용하는 도구 호출 순서를 만든 뒤, 그 일을 평범한 요청처럼 보이게 다시 쓰면 겉보기 문장에는 공격 신호가 거의 남지 않는다. 위험은 문장 자체보다 에이전트가 이어서 실행할 도구 호출 흐름에서 생긴다. MCP로 파일 입출력 도구를 쓰는 에이전트를 시험했을 때, 10억~140억 매개변수 규모의 기본 모델은 이런 공격을 35% 넘게 거부하지 못했다. DPO와 SafeDPO 같은 안전 학습을 적용해도 거부율은 48%까지 올라가는 데 그쳤다. 반면 추가 학습 없이 쓰는 일부 방법은 기준선보다 약 3배 높은 거부율을 냈다. 방법론, 학습·평가 코드, 데이터셋, 논문이 함께 공개됐다.
미국 기업들이 OpenAI와 Anthropic의 높은 사용료를 부담스럽게 느끼면서 중국 AI 모델을 더 많이 쓰고 있다. DeepSeek와 Z.ai 같은 중국 모델은 미국의 최고급 모델과 비교해 성능 격차를 줄였고, 사용 비용은 더 낮다는 평가를 받는다. OpenRouter에서 미국 기업이 중국 AI 모델에 쓴 토큰 비중은 2026년 2월 8일 이후 매주 30%를 넘었고, 최고 46%까지 올라갔다. 이전 12개월 평균은 11%였으며, 2025년 상반기에는 4.5%까지 낮았다. 일부 개발자는 작은 AI 에이전트 프로젝트에서 의사결정용 모델로 DeepSeek 계열이나 빠르고 저렴한 모델을 연결해 쓴다. 비싼 모델을 계속 쓰기보다, 충분히 좋은 모델을 작업별로 고르는 흐름이 강해지고 있다.
NVIDIA의 Nemotron-Labs-3-Puzzle-75B-A9B는 배포 환경에서 더 효율적으로 쓰기 위해 만든 대규모 언어 모델이다. 기존 Nemotron-3-Super-120B-A12B를 바탕으로, 학습이 끝난 뒤 모델을 줄이는 Iterative Puzzle 방식으로 압축했다. 목표는 대화형 작업, 긴 문맥 처리, 복잡한 추론 작업에서 추론 효율을 크게 높이면서 정확도를 최대한 유지하는 것이다. 전체 매개변수는 1207억 개에서 753억 개로 줄었고, 실제 계산에 쓰는 활성 매개변수는 128억 개에서 93억 개로 줄었다. 구조는 MoE, Mamba, 어텐션 층을 섞은 하이브리드 방식이며, 더 빠른 글 생성을 위한 다중 토큰 예측도 지원한다. NVIDIA는 같은 사용자 처리 조건에서 8개 B200 서버 한 대 기준 서버 처리량이 약 2배 높고, H100 한 장에서 100만 토큰 문맥 요청을 동시에 처리할 수 있는 수가 1개에서 8개로 늘었다고 밝혔다. 추론, 코딩, 다국어, 긴 문맥, 에이전트 관련 평가에서도 강한 정확도를 유지한다고 제시했다.
중국 당국이 자국의 상위 인공지능 모델에 대한 해외 접근을 제한할 수 있다는 보도가 나왔다. 핵심 우려는 Alibaba, ByteDance, Z.ai 같은 중국 기업의 고성능 모델과 오픈 가중치 모델까지 해외에서 쓰기 어려워질 수 있느냐이다. 이어진 반박은 최근 상무부 회의의 초점이 넓은 사용 차단이 아니라 해외 인수와 해외 사업 통제였다고 주장한다. 따라서 현재 확인된 내용은 확정된 금지가 아니라, 중국산 인공지능 모델의 해외 제공 방식과 소유·거래 문제를 정부가 더 민감하게 보고 있다는 신호에 가깝다. 해외 개발자와 기업 입장에서는 중국 모델을 장기 기반으로 삼을 때 접근성, 라이선스, 배포 정책이 바뀔 위험을 따져야 한다.
NVIDIA의 Nemotron-Labs-Audex-30B-A3B는 음성과 텍스트를 함께 처리하는 대규모 언어 모델이다. 기반 모델은 Nemotron-Cascade-2-30B-A3B이며, 전체 규모는 300억 파라미터지만 한 번에 쓰는 활성 파라미터는 30억 개다. 음성 입력과 일반 오디오 입력을 읽는 오디오 인코더가 들어가 있고, 말소리와 오디오 출력을 만들기 위한 별도 오디오 토큰도 지원한다. 가능한 작업은 오디오 이해, 음성 인식, 음성 번역, 텍스트를 음성으로 바꾸기, 오디오 생성, 음성에서 음성으로 바꾸기다. 기존 텍스트 모델의 추론, 지식, 정렬, 긴 문맥 처리, 에이전트 기능은 거의 유지하도록 설계됐다. 생각 과정을 쓰는 모드와 바로 답하는 지시 모드를 모두 지원한다. ChatML 형식을 따르며, 최대 100만 토큰 길이의 문맥을 처리할 수 있다.
MiniMax-M3-Free는 4280억 개 규모의 오픈 웨이트 MoE 멀티모달 언어 모델이다. 한 번에 최대 100만 토큰까지 긴 문맥을 처리할 수 있고, 영상 내용을 직접 이해하는 기능도 포함한다. SWE-bench Pro에서 59% 성능을 냈다고 제시되며, Claude와 GPT-5.5급 모델과 경쟁하면서 비용은 약 6분의 1 수준이라고 내세운다. Ollama로 직접 운영할 수 있고, OpenRouter를 통해 API로도 쓸 수 있다. 코딩 에이전트, 에이전트형 작업 흐름, 배포 안내도 함께 제공된다.
Tencent의 새 오픈 모델 Hy3가 Hugging Face 컬렉션으로 공개됐다. 모델 규모는 전체 2,950억 파라미터이며, 한 번에 실제로 쓰이는 활성 파라미터는 210억 개다. 이번 공개본은 미리보기 버전이 아니라 일반 공개 버전이다. 라이선스는 기존의 제한적인 커뮤니티 라이선스에서 Apache 2.0으로 바뀌었다. 이전 조건은 한국, 영국, 유럽연합에서 사용할 수 없다는 제한이 있었지만, Apache 2.0은 상업적 활용과 수정, 배포에 더 열려 있는 라이선스다.
동영상을 매번 새로 분석하게 하면 같은 파일에 대해 질문이 다시 들어올 때마다 멀티모달 처리 과정이 반복된다. 이 방식은 느리고 비용이 커질 수 있다. 더 나은 구조는 동영상을 일회성 입력이 아니라 여러 번 찾아볼 수 있는 지식 자료로 다루는 것이다. 먼저 자막, OCR 결과, 장면 구간, 대표 화면을 뽑고, 각 내용에 시간 정보를 붙인다. 그다음 임베딩을 만들고 로컬 색인을 구성한다. 이후 질문이 들어오면 전체 동영상을 다시 넣지 않고, 하이브리드 검색으로 관련 근거만 찾아 언어 모델에 전달한다. 핵심 변화는 언어 모델의 역할을 “동영상 전체를 다시 이해하기”에서 “찾아낸 근거를 바탕으로 답하기”로 바꾸는 것이다. 이 구조는 Watch Skill이라는 오픈소스 프로젝트로 공개됐고, MCP, 명령줄 인터페이스, REST API로 사용할 수 있다.
AI 에이전트가 기억해 둔 정보나 검색해 온 자료를 믿게 만들려면, 단순히 “출처가 확인됐다”는 표시만으로는 부족하다. 오픈소스 에이전트 메모리 코어에서 값의 중요도를 매기기, 여러 기록으로 확인하기, 더 최신 기록을 우선하기, 성공한 결과에 점수를 주기 같은 네 가지 방어를 시험했지만, 공격자가 방어 방식을 알고 있으면 모두 뚫렸다. 이유는 간단하다. 기록의 가치, 확인 근거, 기록된 시간, 성공 여부 같은 판단 재료를 결국 기록을 쓰는 쪽이 꾸며 넣을 수 있기 때문이다. 출처 정보와 비용은 공격자가 마음대로 만들기 어렵지만, 출처는 “누가 썼는지”만 확인할 뿐 “내용이 사실인지”까지 보장하지 않는다. 실제 계정이나 정상 세션 안에서 거짓 기억을 넣으면 출처 검사는 통과할 수 있다. 비슷한 실험들에서도 RAG가 맞는 문장을 인용하면서도 약 30%는 잘못된 위치를 출처로 붙였고, 출처나 확인 메타데이터도 공격자가 위조할 수 있었다. 또 한 번 저장된 사실이 나중에 틀려져도, 현재 문맥과 모순이 없으면 일반 평가 도구는 오래된 정보 문제를 잡기 어렵다.
Qwen3.5-4B용으로 만든 10MB 크기의 LoRA 어댑터와 작은 오케스트레이션 레이어를 오픈소스로 공개했다. 이 어댑터는 질문마다 '바로 답한다 / 웹 검색을 한다 / 내 로컬 문서에서 찾아본다' 중 무엇을 할지 결정하고, 확인할 수 없는 내용은 답을 지어내지 않고 거부한다. 애플 실리콘(MLX)에서 로컬로 돌아가며, llama.cpp나 Ollama용 GGUF 빌드도 제공한다. 배경이 되는 문제는 이렇다: 3~9B 크기의 작은 모델 7개를 테스트해 보니 모두 자기 확신도를 말로 표현하는 데는 형편없었다 — 뭘 물어봐도 '확신한다'고 답하는 식이다. 하지만 모델 내부의 활성화 값(activation)에는 실제 확신도 정보가 담겨 있었고, 이 어댑터는 그 내부 신호를 직접 읽어 도구 사용 여부를 결정한다. 성능 면에서는 기존 모델의 도구 호출 판단보다 자기 오류를 더 잘 잡아냈다(신호 탐지 지표인 d′ 기준 0.46 개선, 95% 신뢰구간 [0.01, 0.89]). 기존 모델은 놓쳤지만 이 게이트가 추가로 잡아낸 사례 중 87%는 실제로 틀린 답이었다. 개인정보 보호 기능도 있다: 두 가지 신호를 함께 쓰는 버전은 '내 퇴원 요약서에 뭐라고 적혀 있었지' 같은 개인정보 관련 질문을 웹 검색 대신 로컬 검색으로 돌려, 개인 질의가 외부로 새어나가는 비율을 줄인다.
AI 코딩 에이전트 도구인 OpenCode는 대화가 길어져 문맥(컨텍스트) 용량이 꽉 차면 '압축(compaction)'을 실행해 전체 대화 내용을 하나의 요약본으로 바꿔버린다. 문제는 이 압축 과정에서 그동안 쌓아온 세부 정보, 즉 도구 호출 기록, 파일을 읽고 쓴 내용, 내린 결정들, 알아낸 사실들이 전부 사라지고 원래 정보의 10% 정도만 담은 뭉뚱그려진 요약만 남는다는 점이다. 개발자는 npm에 올라온 압축(난독화)된 자바스크립트 파일에서 Claude Code의 내부 구조를 역추적하는 작업을 몇 달째 진행 중이었는데, 심볼 이름의 의미, 함수 동작, 대화 처리 흐름, 터미널 화면 구성 모듈, 권한 시스템 등을 힘들게 매핑해 두었다. 그런데 압축이 한 번 일어나자 에이전트가 이 모든 맥락을 거의 통째로 잊어버렸고, 결과 품질이 급격히 떨어졌으며, 이미 풀어낸 내용을 처음부터 다시 읽고 다시 추론하는 상황이 반복됐다. 이에 개발자는 OpenCode의 기본 압축 알고리즘을 대체하는 자체 도구 'Magic Compact'를 만들기 시작했다.
LongCat-2.0의 INT8과 FP8 모델 가중치가 Hugging Face에 공개됐다. 이 모델은 전체 크기가 1.6조 파라미터지만, 한 번 답을 만들 때 실제로 쓰는 부분은 약 480억 파라미터라고 소개된다. 긴 작업을 잘 처리하도록 100만 토큰 문맥 데이터를 대량으로 학습했고, 코딩, 저장소 단위 수정, 자동 작업 실행 같은 AI 에이전트 작업에 맞춰 성능을 냈다고 설명한다. 공개된 평가에서는 Terminal-Bench 2.1 70.8점, SWE-bench Pro 59.5점, SWE-bench Multilingual 77.3점, FORTE 73.2점 등으로 여러 상용 모델과 비교됐다. SGLang으로 배포할 수 있고, 권장 GPU 구성은 H20 16장이라 개인용 PC에서 바로 돌리기에는 매우 크다. 대화 템플릿에는 도구 호출 예시와 함께 생각 과정을 켜거나 끄는 옵션이 들어 있으며, 생각 모드를 끄면 토큰 사용을 줄이는 데 도움이 된다고 안내한다. 가중치는 MIT 라이선스로 공개됐지만, 실제 서비스에 쓰기 전에는 정확도, 안전성, 언어별 성능 차이를 따로 확인해야 한다.
Mistral이 Leanstral 1.5를 공개했다. 이 모델은 Apache-2.0 라이선스로 무료 사용이 가능하며, 전체 규모는 119B급이지만 실제 작동에 쓰이는 활성 매개변수는 6B로 소개됐다. 수학 증명과 코드가 맞는지 확인하는 형식 검증 작업에서 성능이 크게 올랐다. miniF2F 평가를 거의 한계까지 채웠고, PutnamBench 문제 672개 중 587개를 풀었으며, FATE-H에서 87%, FATE-X에서 34% 성과를 냈다. 학습에는 중간 학습, 지도 미세 조정, CISPO를 쓴 강화 학습이 들어갔다. 자동 정리 증명과 형식 증명 작업에 쓸 수 있고, 실제 코드 검증 실험에서는 57개 저장소를 살펴보며 이전에 알려지지 않은 버그 5개를 찾아냈다.
sim-use는 인공지능 에이전트가 아이폰 시뮬레이터와 안드로이드 에뮬레이터 또는 실제 기기 화면을 읽고 조작하게 해주는 명령줄 도구다. 화면 전체를 긴 원본 데이터로 보내는 대신, 버튼과 입력칸 같은 요소를 짧은 목록으로 바꿔 보여준다. 이 방식은 원본 접근성 트리보다 약 16배 더 작아서, 인공지능 모델이 한 화면을 이해하는 데 쓰는 토큰을 줄일 수 있다. 에이전트는 먼저 `sim-use ui`로 화면을 읽고, `tap @9`처럼 번호가 붙은 요소를 눌러 행동한 뒤, 다시 화면을 읽어 결과를 확인한다. 좌표를 직접 찍을 수도 있지만, 빠른 번호, 안정적인 아이디, 화면에 보이는 글자 같은 여러 선택 방식도 쓸 수 있다. 첫 실행 뒤에는 기기별 백그라운드 데몬이 초기화 비용을 줄여, 한 번의 읽기와 조작 흐름이 약 300밀리초 안에 끝난다고 밝힌다. iOS와 Android를 같은 명령 형태로 다룰 수 있고, 탭, 스와이프, 글자 입력, 붙여넣기, 스크린샷, 동영상 녹화 같은 작업을 지원한다. 설치는 Homebrew로 할 수 있으며, AI 클라이언트가 이 도구 사용법을 배우도록 돕는 에이전트 스킬도 함께 제공한다.
Chimera는 Apache-2.0으로 공개된 오픈소스 AI 에이전트다. 어려운 작업은 여러 LLM이 같은 질문을 따로 풀고, 판정 모델이 서로 맞는 부분과 충돌하는 부분, 빠진 부분을 정리한 뒤, 합성 모델이 최종 답을 만든다. 쉬운 작업이나 도구 실행은 한 모델만 쓰고, 정말 필요할 때만 여러 모델을 쓰도록 비용과 속도를 함께 보는 라우터가 붙어 있다. 에이전트 흐름은 계획을 세우고, 실행하고, 결과를 검증한 뒤, 틀리면 되돌리는 방식이다. 실제로 실행해 확인된 결과를 기준으로 삼기 때문에, 검증된 작업을 관리자가 임의로 버리지 못하게 설계됐다. 기억 기능은 이전 대화와 사실 묶음을 저장하고 다시 찾는 구조이며, SQLite와 FTS를 쓴다. 또 사용 가능, 경고, 차단, 검토 같은 규칙을 두고, 에이전트가 자기 코드를 바꾸려 할 때 정적 검사로 위험을 걸러낸다. MCP와 OpenAPI 도구 가져오기를 지원하고, 여러 하위 에이전트가 병렬로 작업하되 각자 검증 단계를 거치게 한다. LiteLLM을 통해 OpenAI 방식의 여러 모델 제공처를 바꿔 쓸 수 있고, 로컬 모델도 연결할 수 있다. 현재는 알파 단계이며, 469개 테스트와 엄격한 코드 검사를 통과했지만 실제 운영 경험은 아직 없다.
Kimi K2.7 Code가 GitHub Copilot에서 정식 제공된다. 이 모델은 Copilot 모델 선택기에 들어간 첫 오픈 가중치 모델이며, 코딩 작업을 더 낮은 비용으로 처리할 수 있는 선택지로 배치됐다. GitHub가 Microsoft Azure에서 직접 운영한다. 가격은 사용량 기반 과금으로 매겨지며, 100만 토큰 기준 입력은 0.95달러, 캐시된 입력은 0.19달러, 출력은 4달러다. Copilot에서는 사용량이 GitHub AI 크레딧으로 바뀌며, 1크레딧은 0.01달러다. 먼저 Copilot Pro, Pro+, Max 이용자에게 단계적으로 풀리고, Visual Studio Code, Visual Studio, Copilot CLI, Copilot cloud agent, Copilot App, github.com, 모바일 앱, JetBrains, Xcode, Eclipse에서 선택할 수 있다. Copilot Business와 Enterprise에는 앞으로 몇 주에 걸쳐 확대되지만 기본값은 꺼짐이며, 관리자가 보안·규정·데이터 관리 기준을 검토한 뒤 정책을 켜야 한다.
Poolside가 Laguna XS 2.1을 공개했다. 이 모델은 코딩 에이전트와 오래 걸리는 개발 작업을 겨냥한 330억 매개변수 규모의 전문가 혼합 모델이며, 답을 만들 때는 토큰마다 약 30억 매개변수만 사용한다. 이전 버전인 Laguna XS.2보다 다국어 코딩 문제 시험인 SWE-bench Multilingual 점수가 57.7%에서 63.1%로 올랐고, SWE-bench Verified는 70.9%, SWE-Bench Pro는 47.6%, Terminal-Bench 2.0은 37.5%를 기록했다. Qwen3.6 35B-A3B보다는 주요 성능 시험에서 조금 낮지만, Reddit 반응은 미국 기반의 경쟁력 있는 코딩 모델이라는 쪽에 가깝다. 36기가바이트 메모리의 맥에서도 돌릴 수 있다고 설명되며, FP8, INT4, NVFP4 같은 양자화 버전도 제공된다. DFlash라는 보조 모델을 붙이면 Poolside 내부 시험에서 초당 생성 속도가 약 두 배가 됐다. OpenRouter와 Poolside API에서는 25만 6천 토큰 길이까지 처리하며, 유료 가격은 입력 100만 토큰 0.10달러, 출력 100만 토큰 0.20달러, 캐시로 다시 읽는 100만 토큰 0.05달러다. Ollama, llama.cpp, TensorRT-LLM, vLLM, SGLang, Transformers에서 쓸 수 있고, 코딩 에이전트용 터미널 도구인 pool도 함께 제공된다.
Andon Labs는 4월 스톡홀름에 실제 카페를 열고 운영 업무를 AI 에이전트에 맡겼다. 사람은 커피를 만들었고, AI 에이전트는 구매, 가격 정하기, 근무 일정, 공급업체와의 대화를 처리했다. 두 달 동안 지출은 3만8천 달러였지만 매출은 9천 달러에 그쳤다. 한 고객이 99% 할인을 받을 수 있다고 주장하자, AI 에이전트는 확인 없이 이를 받아들였다. 재고도 크게 쌓였다. 페이스트리는 1,331개를 샀지만 326개만 팔렸고, 통조림 토마토 22.5kg은 대부분 뜯지도 않았다. 보도에 따르면 조리용 화구가 없는 주방에 달걀 120개가 주문됐고, 바리스타들에게 한밤중 메시지도 갔다. 핵심 질문은 AI 에이전트가 어디까지 혼자 처리하고, 어느 지점부터 사람이 승인해야 하느냐다.
Claude Code를 여러 역할의 인공지능 에이전트처럼 나누어 쓰는 작업 흐름이다. 목표는 24시간 안에 디지털 제품을 조사하고, 고르고, 설계하고, 만들고, 검토하고, 출시 준비까지 진행하는 것이다. 이 흐름은 슬래시 명령, 중지 훅, 여러 보조 에이전트를 함께 사용한다. 역할은 조사 담당, 초안 작성 담당, 약점을 찾는 레드팀, 판단 담당, 기술 작성 담당, 홍보 문구 작성 담당, 자기 검토 담당 등으로 나뉜다. 예시 목표는 iOS 출시 과정을 돕는 제품을 만드는 것이며, 마지막 배포 단계만 사람이 최소한으로 확인하는 방식이다. 분류에는 품질 관리, 토큰 절약, 디버깅, 출시, 훅, 스킬, 서브에이전트, 다중 에이전트가 포함되어 있다.