AI coding agent miễn phí 100%, chạy offline hoàn toàn với Ollama — hướng dẫn từng bước cùng Andromity

Mình đoán nhiều bạn giống mình: nhìn mấy con AI coding agent xịn mà ví thì không cho phép. Copilot, Cursor... con nào cũng đòi thẻ quốc tế, tính phí theo tháng, mà sinh viên hoặc dev freelance ở Việt Nam thì không phải ai cũng có thẻ để trả. Chưa kể code của mình bị gửi lên cloud của người ta — làm dự án cho khách hàng nhạy cảm là toang.

Nên khi mình phát hiện ra có một AI coding agent mã nguồn mở, chạy được 100% offline với Ollama, không tốn một đồng nào, mình quyết định thử ngay. Tên nó là Andromity — một project open source (MIT license) của một indie dev, hiện còn khá nhỏ (khoảng 20 stars trên GitHub) nhưng đang được maintain tích cực.

Bài này mình hướng dẫn từng bước: cài Ollama → cài Andromity → chạy AI agent hoàn toàn trên máy mình. Không thẻ, không cloud, không mạng cũng chạy.

Andromity là gì, nói ngắn gọn

• Một AI coding agent: bạn giao việc bằng tiếng người, nó tự đọc code, lên kế hoạch, sửa file, chạy lệnh terminal.
• Dùng được trong VS Code (extension) hoặc terminal (CLI) — cùng một core.
• Điểm mình thích nhất: nó có chế độ Trust — mặc định ở mức SAFE, nghĩa là không có gì được chạy cho đến khi bạn cho phép thư mục đó. Muốn nó tự động hơn thì nâng dần lên TRUST → FULL → YOLO.
• Hỗ trợ 396+ model qua BYOK (Claude, GPT-4o, Gemini, DeepSeek, Groq, OpenRouter...) — nhưng với bài này, chúng ta chỉ cần Ollama local, miễn phí.

Bước 1: Cài Ollama

Vào ollama.com tải bản cài cho máy bạn (Windows/Mac/Linux đều có), cài như phần mềm bình thường.

Xong rồi pull một model chuyên code về máy:

ollama pull <ten-model-code>

Bạn cứ chọn model code nào bạn thích trên thư viện của Ollama — máy mạnh thì lấy bản to, máy yếu thì lấy bản 7B cho nhẹ. Sau bước này là bạn đã có "bộ não AI" nằm gọn trong máy mình.

Bước 2: Cài Andromity (30 giây)

Mở terminal gõ:

code --install-extension agenticmarket.andromity-agent

Hoặc tìm "Andromity" trên VS Code Marketplace và bấm Install. Không thích extension thì dùng CLI:

curl -fsSL https://raw.githubusercontent.com/agenticmarket/andromity/main/install.sh | bash

Bước 3: Kết nối với Ollama local

Mở Andromity lên, nó sẽ tự nhận Ollama đang chạy trên máy (tính năng auto-connect). Muốn đổi model giữa chừng thì bấm Ctrl+L — danh sách 396+ model hiện ra, chọn model Ollama local là xong.

Từ giây phút này: mọi prompt của bạn chỉ đi loanh quanh trong máy bạn. Code không gửi đi đâu cả. Đây là điểm mà không con agent trả phí nào làm được với giá 0 đồng.

Bước 4: Trust thư mục rồi giao việc

Mở một project của bạn, Andromity sẽ hỏi bạn có "trust" thư mục này không. Mặc định là SAFE — mỗi bước nó làm (ghi file, chạy lệnh) đều hỏi bạn trước. Cứ để SAFE khi mới dùng, quen rồi hẵng nâng lên.

Giờ thử giao việc thật:

"Viết unit test cho hàm đăng nhập trong auth.py"

Nó sẽ phân tích code, đưa ra kế hoạch từng bước để bạn duyệt trước — đồng ý thì nó mới viết code. Muốn xem nó đang làm gì theo thời gian thực thì gõ /waterfall: một timeline hiện ra, thấy rõ từng bước suy nghĩ, từng lệnh nó chạy, mất bao lâu.

Làm sai? Gõ /undo — nó rollback cả một lượt làm việc mà không động vào lịch sử git của bạn.

Khi nào cách này "cứu" bạn

• Sinh viên, dev mới ra trường: không có thẻ quốc tế, không trả nổi 10–20$/tháng → combo này là 0 đồng, vĩnh viễn.
• Freelancer làm dự án khách hàng: code không rời khỏi máy → không lo rò rỉ, không vi phạm NDA kiểu "code gửi lên server nước ngoài".
• Mạng chập chờn / hay mất điện: đã pull model về rồi thì mất mạng vẫn code tiếp được.
• Máy yếu: Ollama model nhỏ + agent nhẹ, vẫn chạy được trên laptop văn phòng.

Một điểm trừ mình nói thẳng

Project còn nhỏ (mới ~20 stars), nên đừng kỳ vọng docs đầy đủ như hàng big tech. Model local miễn phí thì thông minh không bằng Claude/GPT trả phí — việc phức tạp nó làm chậm hơn, đôi khi phải chia nhỏ task ra. Nhưng với giá 0 đồng và code không rời máy, mình thấy trade-off này quá hời.

Quan điểm cá nhân của mình: "AI tốt nhất không phải con thông minh nhất, mà là con mình dám để nó đụng vào code mà không phải nơm nớp lo."

Link cho bạn nào muốn thử:

• 🌐 Website: andromity.agenticmarket.dev
• ⭐ GitHub (cho mình xin 1 star nếu thấy hay): github.com/agenticmarket/andromity

Có gì thắc mắc về setup Ollama + Andromity thì comment bên dưới, mình trả lời hết.