Model cục bộ của bạn đang chạy. Vậy tại sao Copilot Fusion vẫn cần Internet?

Đi thẳng vào vấn đề: cắm một model cục bộ vào Copilot Fusion không biến GitHub Copilot thành một AI coding agent hoạt động hoàn toàn offline.**

Ngày 28 tháng 10 năm 2026, GitHub công bố bản xem trước thử nghiệm cho phép Copilot Fusion thêm các model cục bộ đủ điều kiện vào cơ chế định tuyến thông minh của mình, phân chia tác vụ linh hoạt giữa model cục bộ và model trên cloud. GitHub cũng nói rõ rằng các quyết định định tuyến vẫn được đưa ra trên cloud.

Copilot Fusion là lớp định tuyến model và điều phối tác vụ của GitHub Copilot. Dựa trên yêu cầu và các model hiện có, nó chọn một model và đưa kết quả của model đó vào phần còn lại của quy trình lập trình. Nó trả lời câu hỏi model nào sẽ đảm nhận một tác vụ. Điều đó không có nghĩa là toàn bộ quy trình lập trình chạy trên thiết bị của bạn.

Một model chạy cục bộ và một tác vụ lập trình hoàn toàn không kết nối với mạng là hai chuyện rất khác nhau. Điều thứ nhất đã được xác nhận chính thức. Điều thứ hai phải được kiểm chứng dựa trên thiết lập cụ thể của bạn. Với các lập trình viên sử dụng AI hỗ trợ viết code, việc đánh giá tính năng này quy về ba câu hỏi: ai chọn model, model nào thực hiện suy luận, và công cụ chạm tới những tài nguyên nào khi chúng chạy. Chỉ khi tách bạch được ba giai đoạn này, bạn mới biết bước nào vẫn hoạt động khi offline, dữ liệu code nào có thể rời khỏi máy của bạn, và liệu thêm một model cục bộ có thực sự giảm chi phí phát triển của bạn hay không.

Đã kết nối mô hình cục bộ, vì sao agent ngoại tuyến vẫn chưa xuất hiện?

Bởi vì một endpoint hoạt động được, một mô hình có thể được phát hiện, và điều kiện để được định tuyến tự động là ba thứ khác nhau, và mức hỗ trợ mô hình cục bộ cũng rất khác nhau giữa các client.

Bản cập nhật này xuất hiện trước tiên trên Copilot CLI. Trên Windows, macOS và Linux, Copilot CLI hỗ trợ cấu hình mô hình cục bộ. Lập trình viên tự chuẩn bị tệp mô hình và runtime suy luận, rồi kết nối qua một endpoint cục bộ tương thích OpenAI (một dịch vụ tương thích OpenAI). Sau đó, họ cần bật định tuyến cục bộ dạng thử nghiệm trong phần cài đặt và chọn chế độ Standard trong Copilot Fusion. Chỉ khi đó, các mô hình cục bộ đủ điều kiện mới được xem xét để gán tự động.

Trên thực tế, một dịch vụ cục bộ có thể truy cập chỉ có nghĩa là endpoint mạng hoạt động. Một mô hình mà Copilot có thể phát hiện chỉ có nghĩa là nó xuất hiện trong tệp cấu hình hoặc trong danh sách mô hình. Việc nó có được đưa vào định tuyến tự động của Copilot Fusion hay không lại phụ thuộc hoàn toàn vào bề mặt sản phẩm, danh sách mô hình được phép (GitHub có nêu ví dụ MAI Code 1.1 Flash và Qwen3.8 Flash Next), và quyền truy cập tính năng của tài khoản bạn. Việc mở một endpoint tương thích OpenAI không có nghĩa là Fusion sẽ tự động gọi mô hình đó.

Ứng dụng desktop Copilot (Copilot app) lại hoạt động theo cách khác. Nó hỗ trợ kết nối và chọn thủ công các mô hình tương thích cục bộ thông qua bring-your-own-key (BYOK), nhưng định tuyến thông minh hiện chỉ hỗ trợ các mô hình được lưu trữ bởi Windows ML. Việc có thể tự tay chọn một mô hình cục bộ trong ứng dụng desktop không có nghĩa là Fusion sẽ chọn nó khi định tuyến tự động.

Dưới đây là điểm khác biệt giữa hai client về hỗ trợ mô hình cục bộ.

Tính năng này vẫn đang ở giai đoạn xem trước thử nghiệm. Trước khi dựa vào nó cho công việc thực tế, hãy kiểm tra phiên bản client, gói đăng ký, hệ điều hành, khu vực và danh sách hỗ trợ mới nhất trong tài liệu chính thức.

Khi mô hình nằm ngay trên máy bạn, một tác vụ thực sự diễn ra như thế nào?

Một tác vụ lập trình bằng AI đầy đủ có ít nhất ba giai đoạn riêng biệt: định tuyến trên cloud, suy luận của mô hình và thực thi công cụ. Mô hình cục bộ chỉ đảm nhận phần suy luận.

Giả sử bạn yêu cầu AI sửa một hàm định dạng ngày, thêm unit test và chạy lệnh test. Giao diện thường chỉ hiển thị một ô nhập duy nhất, nhưng phía sau nó, yêu cầu sẽ lặp đi lặp lại qua các bước định tuyến, suy luận và thực thi công cụ.

• Định tuyến trên cloud chọn mô hình. Copilot Fusion cân nhắc các mô hình cục bộ đủ điều kiện so với các mô hình cloud bằng logic đánh giá của riêng nó. Bản cập nhật này bổ sung mô hình cục bộ vào danh sách ứng viên. Nó không đưa bộ định tuyến về máy tính của bạn. GitHub đã xác nhận rằng các quyết định định tuyến vẫn được đưa ra trên máy chủ cloud của họ.
• Suy luận của mô hình tạo ra mã và câu trả lời. Nếu định tuyến trên cloud gửi yêu cầu đến một mô hình cục bộ, việc sinh mã sẽ chạy trên phần cứng của bạn. Nếu yêu cầu được gửi đến mô hình cloud, quá trình tính toán diễn ra trên cloud. Suy luận cục bộ chỉ cho bạn biết mô hình tính toán ở đâu. Nó không có nghĩa là toàn bộ tương tác ở lại trên máy của bạn.
• Thực thi công cụ mới là bước thực sự thay đổi dự án. Việc đọc tệp cục bộ, ghi các thay đổi mã và khởi chạy terminal để chạy test đều phụ thuộc vào những công cụ cụ thể (Tool Execution). Việc mô hình đề xuất "chạy test" bằng văn bản và việc hệ thống thực sự khởi chạy lệnh test là hai hành động riêng biệt. Khi công cụ chạy, chúng có thể chỉ đọc và ghi tệp cục bộ, hoặc cũng có thể kết nối tới một kho lưu trữ từ xa, kéo các gói bên thứ ba, hay gọi API mạng bên ngoài. Vậy nên đường đi thực sự của một tác vụ lập trình bằng AI là: định tuyến trên cloud chọn mô hình, mô hình cục bộ hoặc mô hình cloud thực hiện suy luận, và công cụ tiến hành những thay đổi thực tế lên dự án. Đây chính là điểm khiến những người đánh giá các công cụ lập trình AI cục bộ nhầm lẫn nhiều nhất. Việc mô hình chạy ở đâu chỉ cho bạn biết suy luận diễn ra ở đâu. Còn ai chọn mô hình và công cụ truy cập vào những gì thì phải kiểm tra riêng.

[Hình 1: Định tuyến, suy luận và thực thi công cụ]

Khi mạng rớt, tác vụ lập trình dừng ở đâu?

Một tác vụ có tiếp tục chạy được khi offline hay không phụ thuộc vào việc bạn gọi trực tiếp dịch vụ cục bộ, tự chọn model trong client, hay dựa vào định tuyến tự động của Copilot Fusion.

Để tìm ra ranh giới offline, hãy chia nhỏ theo cách bạn sử dụng. Nếu bỏ qua client và gửi request thẳng đến dịch vụ suy luận cục bộ, bạn có thể kiểm tra xem dịch vụ đó có xử lý được input khi không có internet hay không, nhưng điều đó chỉ chứng minh dịch vụ model bên dưới chạy được offline. Nếu bạn tự chọn model cục bộ trong Copilot client, bạn cần theo dõi xem xác thực tài khoản, trạng thái phiên và các dịch vụ hỗ trợ khác có cần mạng hay không. Nếu bạn dùng định tuyến tự động của Copilot Fusion, định tuyến cloud là một cửa mà bạn không thể vòng qua. GitHub đã xác nhận rằng ngay cả khi model cục bộ đảm nhận phần suy luận, phiên Fusion vẫn không trở nên hoàn toàn offline.

Trước khi chạy các bài kiểm tra offline có chủ đích, hãy để ngỏ khả năng kiểm chứng cho một vài hành vi cụ thể thay vì vội kết luận.

• Request đang chạy dở khi mất kết nối có thể hoàn tất hay không.

• Khi request định tuyến cloud thất bại, terminal có trả về mã lỗi rõ ràng hay kích hoạt cơ chế fallback hay không.

• Toolchain cục bộ có thể tiếp tục các bước còn dang dở khi dịch vụ suy luận cục bộ vẫn còn sống hay không.

• Khi mạng có lại, tác vụ bị gián đoạn có thể tiếp tục từ chỗ đã dừng hay buộc phải bắt đầu lại từ đầu. Tất cả những điều này phụ thuộc trực tiếp vào phiên bản client, cấu hình, độ phức tạp của tác vụ và các phụ thuộc của tool. Một cách kiểm chứng an toàn hơn là dựng một project nhỏ, tách biệt với dữ liệu tự bịa ra, cố định prompt, rồi chạy quy trình trong từng kịch bản dưới đây.

• 1.Có kết nối Internet, dịch vụ suy luận cục bộ bật.

• 2.Có kết nối Internet, dịch vụ suy luận cục bộ bị tắt thủ công.

• 3.Ngắt kết nối Internet vật lý, dịch vụ suy luận cục bộ vẫn bật. So sánh vị trí lỗi xuất hiện trong ba lần chạy sẽ cho bạn biết chính xác phụ thuộc mạng nằm ở định tuyến, ở suy luận, hay ở khâu thực thi tool.

Mô hình cục bộ có đảm bảo quyền riêng tư cho mã nguồn và chi phí thấp hơn?

Mô hình cục bộ chỉ giữ một phần quá trình suy luận trên thiết bị của bạn. Bản thân nó không thể đảm bảo rằng không có gì từ phiên làm việc bị tải lên, và cũng không mặc nhiên đồng nghĩa với chi phí thấp hơn.

Dữ liệu mã nguồn của bạn chảy đi đâu

Nhiều đội ngũ áp dụng mô hình cục bộ vì mục tiêu tuân thủ và quyền riêng tư, nhưng ranh giới riêng tư không chỉ nằm ở việc trọng số mô hình có nằm trên ổ đĩa cục bộ của bạn hay không. Một tác vụ lập trình hoàn chỉnh bao gồm prompt, ngữ cảnh dự án, nội dung các tệp mã nguồn, đầu ra của công cụ và log chẩn đoán. Bạn cần kiểm tra từng mục một: trường nào được đóng gói vào các yêu cầu định tuyến trên cloud, nội dung nào được xử lý hoàn toàn bởi mô hình cục bộ, và telemetry nào được ghi vào log trên cloud.

Điều chúng ta biết chắc chắn là Copilot Fusion đưa ra quyết định định tuyến trên cloud. Vì thông báo của GitHub chưa công bố đầy đủ payload của từng yêu cầu định tuyến, các đội ngũ không thể khẳng định rằng toàn bộ mã nguồn chắc chắn được tải lên, cũng không thể giả định rằng cloud chỉ nhận metadata mà không có mã nguồn. Thêm vào đó, giai đoạn thực thi công cụ (cài đặt dependency, gọi API bên ngoài để kiểm thử, đọc và ghi vào kho Git từ xa) cũng gửi dữ liệu ra ngoài. Với những dự án có yêu cầu bảo mật nghiêm ngặt, đừng coi mô hình cục bộ là tấm khiên riêng tư hoàn chỉnh cho đến khi bạn đã xác nhận được ba điều: đầu vào nào được gửi lên cloud, log định tuyến lưu lại những gì, và liệu các công cụ có truy cập dịch vụ bên ngoài hay không.

Cộng dồn năng lực tính toán và tổng chi phí

Bổ sung năng lực tính toán cục bộ không nhất thiết cắt giảm chi phí theo một đường thẳng. Tổng chi phí của một đội ngũ có ít nhất ba phần: phí thuê bao Copilot cơ bản, hạn mức mô hình cloud đã tiêu thụ, và khấu hao phần cứng, mức sử dụng VRAM cùng công sức bảo trì để chạy một mô hình lớn tại chỗ.

Nếu một mô hình cục bộ đảm nhận một tác vụ, việc tác vụ đó có còn bị tính vào một hạn mức chat Copilot nào đó hay không phụ thuộc vào quy tắc tính phí thực tế của GitHub. Nếu giữa một hội thoại nhiều lượt mà tác vụ bị chuyển ngược về mô hình cloud, bạn cũng cần kiểm tra xem các lệnh gọi cloud đó được tính phí ra sao. Và hiệu quả của mô hình cục bộ không chỉ nằm ở tốc độ sinh văn bản thô. Việc nạp mô hình khi khởi động nguội, prefill ngữ cảnh dài, thời gian gọi công cụ, và những lần phải làm lại do thay đổi mã kém chất lượng đều kéo dài thời gian để bàn giao một tác vụ hoàn chỉnh.

Nếu không có các bài kiểm thử cùng điều kiện và bản ghi tính phí để làm căn cứ, hãy theo dõi các chỉ số đầu-cuối cho từng tác vụ từ lúc bắt đầu đến khi bàn giao: thời gian phản hồi đầu tiên, độ chính xác của thay đổi mã, tỷ lệ vượt qua unit test, số lần chuyển đổi mô hình, hạn mức cloud đã dùng, và tần suất con người phải can thiệp. Đó là cách đo lường lợi tức đầu tư thực sự.

Cách kiểm thử ranh giới của mô hình cục bộ bằng một thiết lập cô lập và ServBay

Hãy dựng một dự án nhỏ không chứa mã nghiệp vụ thật, và kết hợp nó với một trình quản lý môi trường phát triển cục bộ như ServBay. Nhờ đó bạn có thể tái hiện và xác minh từng ranh giới nêu trên với chi phí thấp.

Trước khi bắt đầu, hãy xác định rõ mỗi công cụ phù hợp ở chỗ nào.

Lấy ServBay làm ví dụ. Nó bổ trợ tốt cho các quy trình làm việc với mô hình cục bộ và đóng vai trò một nền tảng tích hợp cho dịch vụ cục bộ và môi trường phát triển, giúp lập trình viên nhanh chóng dựng một endpoint tương thích OpenAI chạy cục bộ, một môi trường chạy mô hình, hoặc một dự án kiểm thử cô lập.

Sẽ chính xác hơn nếu coi ServBay là nền móng cho các công cụ AI dev của bạn. Khi kiểm thử đã đạt, bạn có thể chuyển kết quả thành một checklist luồng dữ liệu của agent cục bộ, ghi lại trạng thái mô hình, phản hồi định tuyến, các lệnh gọi công cụ và lỗi mạng.

Bạn không cần một kho mã nghiệp vụ thật cho bất kỳ phần nào ở trên. Hãy tạo một dự án nhỏ chỉ với dữ liệu giả, rồi cố định phiên bản Copilot CLI, mô hình cục bộ (chẳng hạn MAI Code 1.1 Flash hoặc Qwen3.8 Flash Next) và cấu hình của dịch vụ suy luận. Sau đó đưa cho AI một chỉ dẫn chuẩn: sửa hàm xử lý ngày tháng của dự án, thêm unit test, và tự động chạy lệnh kiểm thử.

Trong quá trình kiểm thử, hãy chuyển đổi qua lại giữa các trạng thái online và offline mô tả ở trên, đồng thời ghi lại năm điểm kiểm tra: máy chủ mô hình cục bộ có ghi nhận yêu cầu hay không, định tuyến đám mây có cho yêu cầu đi qua hay không, công cụ có đọc và ghi được tệp cục bộ hay không, script kiểm thử có thực sự khởi chạy hay không, và lỗi xuất hiện ở giai đoạn nào. Hãy tách riêng "tắt dịch vụ cục bộ" và "tắt Internet". Việc thứ nhất chủ yếu kiểm tra cách client xử lý khi thiếu dịch vụ suy luận cục bộ. Việc thứ hai kiểm tra mức độ phụ thuộc vào mạng của định tuyến đám mây và các công cụ hỗ trợ. Ngoài ra, tuyệt đối không dùng API key thật, mã nghiệp vụ riêng tư hay dữ liệu production trong khi kiểm thử, và hãy xóa token tài khoản cùng các đường dẫn tuyệt đối cục bộ trước khi công bố bất kỳ log hay ảnh chụp màn hình kiểm thử nào.

[Hình 2: Kế hoạch xác minh qua ba trạng thái mạng và dịch vụ cục bộ]

Bạn nên đánh giá các công cụ lập trình AI cục bộ như thế nào?

Bản cập nhật Copilot Fusion này chính thức đưa model cục bộ vào định tuyến thông minh. Thay đổi kỹ thuật rất rõ ràng: Copilot CLI có thể cấu hình model cục bộ và kết nối các dịch vụ tương thích trên các hệ điều hành lớn, còn ứng dụng desktop Copilot có thể kết nối và chọn một số model cục bộ. Giới hạn cũng rõ ràng không kém: các quyết định định tuyến vẫn nằm trên cloud, suy luận cục bộ không tự động biến một phiên lập trình thành agent offline, và một model được phát hiện qua BYOK không tự động đủ điều kiện để tham gia định tuyến.

Khi đánh giá bất kỳ công cụ lập trình AI nào tự nhận hỗ trợ model cục bộ, đừng chỉ dừng ở việc trọng số model có chạy trên máy tính của bạn hay không. Hãy đi theo chuỗi tác vụ và xác định ai là người chọn model ở hậu trường, những bước nào cần mạng, công cụ truy cập tài nguyên gì ở chế độ nền, và hạn mức cùng chi phí được tính như thế nào. Chạy toàn bộ chuỗi một lần trong môi trường cô lập, mối quan hệ thực sự giữa suy luận cục bộ, định tuyến trên cloud và thực thi công cụ sẽ trở nên rõ ràng.