Giảm chi phí token cho Claude Code với TokenEconomizer: 109 phiên, 95 tool thừa bị cắt
Hôm nay mình chạy thử một lệnh trên repo backend đang làm ở công ty:
~/.tokeneconomizer/bin/te status
Kết quả: sau 109 phiên Claude Code, plugin TokenEconomizer đã lặng lẽ bỏ 95 tool khỏi các phiên của repo đó. Cả bộ Playwright để điều khiển trình duyệt, vài chục tool MCP đọc database, tool quản lý ticket, tool soạn notebook... Repo đó chưa từng dùng tới chúng, nhưng trước khi cài plugin, mô tả của cả 95 tool vẫn bị gửi kèm mọi request lên model.
TokenEconomizer là plugin mã nguồn mở (giấy phép MIT) của Microsoft Research và UC Berkeley, giúp Claude Code, Codex, Copilot CLI chạy rẻ hơn mà không đổi agent, không đổi model. Bài này giải thích agent code đang tốn tiền ở đâu, plugin xử lý từng chỗ thế nào, kèm số liệu thật trên máy mình, cả chỗ nó không lời.
Agent code tốn tiền ở đâu
Mỗi lần agent gửi một request lên model, nó gửi lại gần như toàn bộ: hướng dẫn hệ thống, mô tả của mọi tool đang nạp, và lịch sử hội thoại từ đầu phiên. Bạn trả tiền cho tất cả những thứ đó, ở mọi lượt.
Khi bạn làm đi làm lại trên cùng một repo, có ba khoản bị trả lặp lại qua từng phiên:
Một phiên làm việc, chia theo chi phí:
[ Việc thật cần làm ][ Học lại repo ][ Tool không dùng ][ Kẹt vòng lặp lỗi ]
↑ phiên nào ↑ gửi kèm mọi ↑ cùng một lỗi,
cũng dò lại request thử đi thử lại
lệnh build
- Học lại repo: phiên nào cũng mất vài lượt để phát hiện lại rằng repo này phải chạy
python -m pytestchứ không phảipytest, hay phải build một bước trước rồi mới chạy test được. - Tool không dùng: cài càng nhiều MCP server, mỗi request càng nặng, dù phần lớn tool chẳng bao giờ được gọi trong repo này.
- Vòng lặp lỗi: agent gặp lỗi, sửa, lại gặp đúng lỗi đó, sửa tiếp, mỗi vòng lại trả tiền cho cả lịch sử hội thoại ngày càng dài.
Agent được thiết kế để làm xong việc, không phải để làm rẻ. TokenEconomizer nhắm đúng ba khoản này, bằng cách học từ các phiên đã chạy trên repo để cắt bớt ở các phiên sau.
Ba cơ chế của TokenEconomizer
Cắt tool không dùng (tool pruning)
Vấn đề: tool nào được nạp thì mô tả của nó đi theo mọi request.
Cách làm: plugin theo dõi tool nào thật sự được gọi trong repo. Tool nào không được dùng qua 10 prompt trải trên ít nhất 2 phiên, hoặc qua 5 phiên bất kể dài ngắn, sẽ bị tắt ở các phiên sau thông qua chính settings của agent. Plugin chỉ ghi danh sách tắt khi bạn đã nghỉ tay ở repo đó 60 phút, để không đổi cấu hình giữa lúc đang làm.
Số thật trên máy mình: 109 phiên, 454 prompt được quan sát, 95 tool bị tắt. Cần lại thì một lệnh là trả hết, và những tool đó sẽ không bị tắt lại nữa:
/tokeneconomizer:toolprune restore
Chặn vòng lặp lỗi (loop guard)
Vấn đề: agent kẹt, thử cùng một cách hỏng nhiều lần, mỗi lần đều tốn tiền.
Cách làm: plugin học trước xem một lượt làm việc "bình thường" trong repo dài cỡ nào (cần ít nhất 5 lượt kết thúc tốt mới bắt đầu canh). Khi một lượt cứ gặp lại cùng các lỗi, một model "giám khảo" xem nó có kẹt thật không. Nếu giám khảo chắc từ 70% trở lên, agent nhận một ghi chú ngắn bảo thử hướng khác, tối đa 1 lần mỗi lượt. Vẫn kẹt sau đó thì plugin chỉ báo cho bạn cách dừng, nó không bao giờ tự dừng lượt làm việc.
Số thật trên máy mình: trên 539 lượt, plugin chuyển hướng agent 11 lần, và 2 lần báo "vẫn kẹt" cho mình xử lý. Tức là phần lớn thời gian nó im lặng, chỉ lên tiếng khi agent thật sự đi vòng vòng.
Ghi nhớ sự thật về repo (micro-skills)
Vấn đề: phiên nào cũng dò lại cùng những điều về repo.
Cách làm: plugin học các "sự thật" như lệnh chạy test đúng, biến môi trường cần có, chỗ chứa file sinh tự động. Nguồn học là những lỗi lặp lại giữa các phiên, cộng với một model đọc lại các phiên gần nhất (cứ 3 phiên một lần) để đề xuất. Một sự thật chỉ được đưa vào đầu phiên khi đã được 3 phiên xác nhận, và bị bỏ khi phiên sau chứng minh nó sai.
Tính năng này tắt mặc định, vì model đề xuất tốn thêm tiền, còn tiết kiệm được bao nhiêu thì tuỳ repo. Mình chưa bật nên không có số thật cho phần này.
Các ngưỡng mặc định
| Cơ chế | Mặc định | Ngưỡng chính | Đổi bằng |
|---|---|---|---|
| Cắt tool | Bật | 10 prompt trên 2 phiên, hoặc 5 phiên | config set toolprune_evidence=20 |
| Chặn vòng lặp | Bật | Giám khảo chắc 70%, chuyển hướng 1 lần | config set loopguard_nudges=2 |
| Ghi nhớ repo | Tắt | 3 phiên xác nhận mới dùng | config set microskills=on |
Kết quả trong paper
Đây là số của nhóm tác giả trong paper trên arXiv, không phải của mình. Họ chạy 277 task của SWE-Bench (bộ bài kiểm tra sửa lỗi trên repo Python thật) trên 6 repo, với 5 tổ hợp agent và model, tính cả tiền các lần plugin tự gọi model:
| Agent + model | Chi phí | Tỷ lệ làm đúng (Pass@1) |
|---|---|---|
| Claude Code + Sonnet 5 | −23,6% | +1,3 |
| Claude Code + Opus 4.8 | −30,9% | −1,0 |
| Codex + GPT-5.6 Terra | −24,7% | +0,9 |
| Codex + GPT-5.6 Sol | −26,1% | +1,6 |
| Copilot CLI + Sonnet 5 | −18,4% | +2,6 |
Rẻ hơn ở cả 30/30 ô repo × tổ hợp, tỷ lệ làm đúng tăng ở 4/5 tổ hợp. Trên Web-Bench chi phí giảm 16–21%. Nhớ là benchmark chạy task trên repo lạ theo thứ tự, còn repo của bạn và cách bạn làm việc thì khác, nên coi đây là định hướng chứ không phải lời hứa. Trang dự án có biểu đồ tương tác, số liệu từng repo và các lượt chạy có chú thích; thư mục experiments trong repo cho phép chạy lại thí nghiệm.
Số thật trên máy mình, và chỗ nó không lời
| Repo backend dùng hằng ngày | Repo phụ | |
|---|---|---|
| Agent | Claude Code | Codex |
| Số phiên | 109 | 132 |
| Tổng token (tính theo giá thật) | 233,2 triệu | 1,5 triệu |
| Phần plugin tự tiêu | 5,2 triệu (2,2%) | 428 nghìn (22,7%) |
| Tool bị cắt | 95 | 0 |
| Chuyển hướng khi kẹt | 11 | 0 |
Hai điều mình rút ra:
Plugin lời ở repo bạn làm đi làm lại. Ở repo chính, phần plugin tự tiêu chỉ 2,2% tổng token, trong khi mỗi request nhẹ đi 95 mô tả tool. Đúng tinh thần của nó: học qua nhiều phiên, càng dùng nhiều càng lời.
Với phiên ngắn lẻ tẻ, chính chi phí của plugin chiếm tỷ lệ lớn. Repo phụ có 132 phiên Codex nhưng tổng cộng chỉ 1,5 triệu token, trung bình khoảng 11 nghìn token mỗi phiên. Ở đó phần plugin tự tiêu chiếm 22,7%, và nó chưa kịp cắt được tool nào. Mình chưa đào kỹ phần chi phí đó đến từ đâu, nhưng con số đủ để thấy: không phải repo nào cài vào cũng có lời.
Một điều nữa phải nói thẳng: lệnh status cho biết plugin đã làm gì và tốn bao nhiêu, nhưng không cho biết bạn đã tiết kiệm được bao nhiêu so với lúc chưa cài, vì không có phiên nào chạy song song để so. Muốn biết chắc thì phải tự đo, như cách mình nói ở bài về đo hiệu quả khi dùng AI.
Cài trong ba lệnh
Cần Python 3.10 trở lên trong PATH. Plugin không cần API key riêng: các lần nó gọi model đều chạy qua chính agent của bạn, dùng gói và tài khoản bạn đang đăng nhập.
Với Claude Code, chạy ở thư mục bạn muốn để bản clone (để nguyên, đừng xoá, plugin chạy từ đó):
git clone https://github.com/microsoft/TokenEconomizer.git
claude plugin marketplace add "$PWD/TokenEconomizer"
claude plugin install tokeneconomizer@tokeneconomizer
Mở claude trong một repo, chọn tin tưởng thư mục, rồi chạy:
/tokeneconomizer:status
/tokeneconomizer:toolprune refresh-catalog
Lệnh thứ hai chạy một lần mỗi máy, và chạy lại sau mỗi lần Claude Code cập nhật, để plugin biết đủ danh sách tool. Codex, Copilot CLI, Pi cũng cài tương tự, xem README của repo. Cách gỡ cài đặt, xử lý lỗi và danh sách đầy đủ các lệnh nằm trong hướng dẫn chi tiết của plugin.
Những lệnh dùng hằng ngày:
| Lệnh | Làm gì |
|---|---|
status |
Plugin đã học gì, làm gì ở repo này, các phiên tốn bao nhiêu |
toolprune |
Danh sách tool bị cắt và bằng chứng |
toolprune restore |
Trả lại tool, không cắt lại nữa |
microskills |
Các sự thật đang được đưa vào đầu phiên |
config |
Xem mọi cấu hình đang áp dụng |
Mẹo nhỏ: gõ lệnh trong agent sẽ tốn một lượt model, còn chạy từ terminal thì miễn phí:
cd duong-dan-toi-repo
~/.tokeneconomizer/bin/te status
Nên và không nên dùng
| Nên cài | Cân nhắc |
|---|---|
| Repo bạn làm với agent gần như mỗi ngày | Phiên ngắn lẻ tẻ, mỗi lần một repo mới |
| Bạn cài nhiều MCP server nhưng mỗi repo chỉ dùng vài cái | Agent ngoài dải phiên bản được hỗ trợ (Claude Code mới được kiểm trên 2.1.300 tới 2.1.310) |
| Agent hay kẹt sửa đi sửa lại cùng một lỗi | Dùng Cursor trên Windows (hiện chỉ hỗ trợ macOS và Linux) |
Vài điểm giúp mình yên tâm khi cài: mọi thứ plugin học được nằm trên máy, trong thư mục ~/.tokeneconomizer. Plugin báo mỗi việc nó làm bằng một dòng. Nếu chính plugin bị lỗi, phiên làm việc vẫn chạy như chưa cài. Và mọi thứ đều đảo ngược được: tool trả lại được, sự thật sai thì tự bỏ, loop guard chỉ nhắc chứ không dừng.
Thử ngay: cài cho repo bạn làm nhiều nhất, làm việc như bình thường một tuần, rồi chạy te status từ terminal. Xem nó đã cắt bao nhiêu tool bạn không dùng, chuyển hướng agent mấy lần, và phần nó tự tiêu là bao nhiêu phần trăm. Bạn cài thử thì comment số liệu của repo bạn nhé, mình tò mò xem có ai ra con số khác hẳn của mình không.
Tài liệu để đọc thêm:
- Mã nguồn và hướng dẫn cài: github.com/microsoft/TokenEconomizer
- Hướng dẫn chi tiết từng agent, lệnh, cấu hình: plugin/README.md
- Paper: TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents
- Trang dự án, biểu đồ kết quả: tokeneconomizer.github.io
P.S. TokenEconomizer làm việc qua nhiều phiên. Còn chuyện tiết kiệm ngay trong một phiên đang phình to thì mình dùng skill context-engineering-rules trong PrimeKit, bộ skill mình tự làm: theo dõi mức dùng context, các giới hạn sử dụng, và gợi ý cách giảm token khi phiên bắt đầu nặng. Cài bằng npx @lovehlmmm/primekit init, rồi gõ /pk:context-engineering-rules. Hai thứ bổ sung cho nhau, không thay thế nhau.
Series khác của mình
- Dùng AI hiệu quả trong công việc: kinh nghiệm thực chiến của dev: viết prompt đủ ngữ cảnh, bắt AI bịa API, giao việc cho agent, review code AI viết, debug, đọc codebase lạ, đóng gói quy trình thành skill.
- SQL thực chiến: Những bài học mình ước đã biết sớm hơn: viết query dễ đọc, đọc execution plan, lỗi NULL và N+1 không báo lỗi, schema và transaction, phân trang bằng con trỏ.
- Backend .NET thực chiến: những case hay gặp trên production: async/await làm treo API, HttpClient hết socket, EF Core kéo cả bảng, idempotency, outbox, caching, bảo mật API.
All rights reserved