0

Model mạnh chia task con, model free thực hiện: Ordewell + OpenRouter

Ý tưởng ban đầu

Mình muốn thử một mô hình làm việc: một model mạnh đóng vai não trung tâm, phân tích yêu cầu thành các task nhỏ và đơn giản, rồi giao cho các model nhỏ hơn thực thi. Phương án đầu tiên của mình là Opus làm não, Gemini viết code.

Làm thử thì gặp ngay hai vấn đề:

  1. Giới hạn usage. Gemini giới hạn usage trên từng tài khoản. Muốn miễn phí thật sự thì phải xoay vòng nhiều tài khoản, vừa phiền vừa không bền.
  2. Copy–paste thủ công. Opus chia task rất ổn, nhưng sau đó mình phải tự copy từng task sang từng cửa sổ chat, chờ kết quả rồi mang ngược về. Tốn thời gian chẳng kém tự code.

Ordewell: phần "não – tay chân" đã có người làm sẵn

Tìm hiểu thêm thì mình phát hiện một tool làm đúng việc này: Ordewell, mã nguồn mở (Apache-2.0), miễn phí. Mình dùng qua extension VS Code.

Mô hình trong Ordewell rất khớp với ý tưởng ban đầu:

  • Planner (não): mình dùng Opus. Planner đọc repo ở chế độ chỉ đọc, hỏi lại những chỗ bạn mô tả mơ hồ, rồi lên plan gồm các task nhỏ (mình gọi là slice) kèm thứ tự phụ thuộc.
  • Runner (tay chân): các harness chạy trong terminal như OpenCode, Claude Code, Codex. Harness nào bạn đã cài và đăng nhập được thì Ordewell gọi được, không quan trọng bạn dùng gói đăng ký hay trả phí qua API key.

Planner chia xong thì mỗi slice được gán sẵn runner và model. Bạn xem và sửa được toàn bộ trước khi chạy: đẩy task khó sang model mạnh hơn, thêm bớt task, nối lại dependency. Muốn giới hạn những model được phép dùng trong từng harness thì gõ /allowlist.

Điểm ăn tiền nhất: các slice độc lập chạy song song (mặc định 5 slice cùng lúc, chỉnh bằng /parallel), mỗi slice chạy trên một git worktree và branch riêng nên không đè code của nhau. So với copy–paste tuần tự thì nhanh hơn hẳn.

*Chạy 5 slice cùng lúc*

Vậy là xong bài toán copy–paste. Câu hỏi còn lại: chọn tay chân nào để chi phí thấp nhất?

Tay chân giá rẻ: 1.000 request/ngày của OpenRouter

Thay vì xoay vòng tài khoản Gemini, mình dùng model free của OpenRouter, kết nối qua OpenCode.

OpenRouter là gì?

Hiểu đơn giản: một API key duy nhất để gọi đa số model hot hiện nay. Model nào có hậu tố :free thì không tính tiền token, chỉ bị giới hạn số request.

Làm sao để có 1.000 request/ngày?

Theo tài liệu chính thức của OpenRouter:

Tổng credit đã mua Request/phút Request/ngày (model :free)
Dưới $10 20 50
Từ $10 trở lên 20 1.000

Ngưỡng được tính trên tổng credit đã mua từ trước đến nay, nên chỉ cần nạp một lần $10 là mở khóa luôn, kể cả khi số dư sau đó giảm xuống.

Chạy nhiều slice cùng lúc có dính giới hạn 20 request/phút không?

Có. Giới hạn này tính trên cả tài khoản, nên 5 slice chạy song song sẽ chia nhau 20 request/phút. Nhưng theo trải nghiệm của mình thì không cần lo: slice bị chặn sẽ chờ một lúc rồi tự chạy tiếp, mình không phải can thiệp tay. Nếu thấy lỗi 429 xuất hiện dày đặc, hạ /parallel xuống 2–3 là ổn.

1.000 request tương đương bao nhiêu token?

Tùy project và model. Lưu ý 1 request không phải 1 task: mỗi lượt agent gọi tool là một request. Số liệu thực tế của mình khi dùng hết 1.000 request:

Model Token đã dùng
Nemotron 3 Ultra ~117,8M
MiniMax M3.1 ~141M

Kết nối vào Ordewell

  1. Cài OpenCode, mở terminal và gõ opencode.
  2. Gõ /connect, tìm OpenRouter, dán API key (dạng sk-or-v1-...).
  3. Chọn model :free bằng /models.
  4. Trong Ordewell, kiểm tra OpenCode đã được bật ở /runners. Từ đây runner sẽ dùng key OpenRouter.

Kinh nghiệm và lưu ý

  • Bảo mật: nhiều provider của model free lưu log prompt và có thể dùng dữ liệu đó để train. Đừng để secret, API key, thông tin thẻ hay tài khoản nằm hớ hênh trong repo khi chạy model free. Dự án cần bảo mật thì nên dùng model trả phí.
  • Cẩn thận fallback: nếu cấu hình model dự phòng có cả model trả phí, khi model free bị giới hạn thì request chuyển sang model trả phí và bị trừ tiền.
  • Phí nạp: OpenRouter thu khoảng 5,5% phí, nên nạp $10 thực tế mất khoảng $10,55. Nếu chỉ dùng model free thì $10 credit vẫn còn nguyên.
  • Lỗi: Ordewell còn khá mới và mình gặp kha khá lỗi. Cách nhanh nhất là đưa log cho Claude hoặc một harness bất kỳ để sửa. Mình để file ghi chú cách sửa lỗi planner/runner ở cuối bài cho bạn nào cần.

Kết

Tóm lại: Opus lo phần nghĩ, Ordewell lo phần chia việc và điều phối, model free của OpenRouter lo phần làm, với chi phí cố định khoảng $10.

Đây là kinh nghiệm cá nhân của mình - bài viết còn nhiều thiếu sót, các bạn research thêm. Nếu thấy hay hoặc hữu ích, upvote nhé!

Tham khảo: Ordewell docs · OpenRouter – Rate limits · OpenRouter – Dùng với OpenCode


All rights reserved

Viblo
Hãy đăng ký một tài khoản Viblo để nhận được nhiều bài viết thú vị hơn.
Đăng kí