0

Vì sao AI làm cùng một việc khác nhau mỗi lần khi lập trình với Claude Code? | Nguyên lý LLM

Cùng một câu, bản dịch vẫn có thể khác nhau

Bạn dịch cùng một câu, nhưng mỗi lần hỏi trong một cuộc trò chuyện mới, cách diễn đạt lại hơi khác. Có phải AI cố tình trả lời khác đi không?

Thay vì sao chép nguyên văn, AI dựa trên nội dung phía trước để chọn những từ tiếp theo và tạo câu trả lời. Vì vậy, dù ý nghĩa tương tự, cách dịch hoặc thứ tự câu vẫn có thể thay đổi. Với bản dịch hoặc kết quả quan trọng, thay vì dùng ngay câu trả lời đầu tiên, bạn nên so sánh các kết quả và tự kiểm tra.

Cách diễn đạt khác nhau giữa bản dịch phụ đề và bản dịch lồng tiếng

AI chọn những từ tiếp theo

LLM (mô hình ngôn ngữ được huấn luyện trên lượng lớn văn bản để xử lý ngôn ngữ của con người) chia văn bản thành các token (đơn vị nhỏ để chia văn bản, chẳng hạn như một từ hoặc một phần của từ) rồi xử lý. AI không đưa ra toàn bộ câu trả lời cùng lúc: nó xem phần văn bản phía trước, chọn từ tiếp theo rồi lặp lại quá trình đó để tạo câu trả lời.

Ví dụ, sau cụm “kimchi cho bữa trưa”, từ “jjigae” có thể có khả năng xuất hiện cao hơn “ô tô”. Trong video, các con số “jjigae 65%”, “cơm chiên 25%” và “ô tô 0,1%” chỉ là ví dụ minh họa để giải thích; đây không phải các giá trị mô hình thực sự tính ra. Khi có nhiều lựa chọn nghe hợp lý, AI có thể chọn từ khác nhau mỗi lần. Vì vậy, với kết quả quan trọng, bạn nên so sánh và kiểm tra.

Minh họa cách AI chọn từ tiếp theo dựa trên xác suất

Câu trả lời cũng có thể khác nhau tùy mô hình. Khi so sánh các dịch vụ dịch thuật với cùng chỉ dẫn và dữ liệu, mô hình mới nhất không phải lúc nào cũng dịch tốt hơn; đôi khi kết quả của mô hình cũ lại tốt hơn. Tác giả trong video phỏng đoán rằng mô hình đã được cung cấp lâu hơn có thể tích lũy được nhiều dữ liệu hội thoại với người dùng thực tế hơn. Thay vì chọn chỉ vì đó là mô hình mới nhất, bạn nên so sánh trực tiếp kết quả trong công việc thực tế.

AI chịu ảnh hưởng từ những gì nó đã gặp nhiều lần

Câu trả lời của AI chịu ảnh hưởng lớn từ những cách diễn đạt và khuôn mẫu mà nó thường gặp. Với những việc quen thuộc, có nhiều tài liệu công khai như làm màn hình đăng nhập, AI thường dễ đưa ra câu trả lời quen thuộc. Nhưng trong lĩnh vực có ít tài liệu công khai, có thể sẽ có ít ví dụ để tham khảo hơn. Trước đây, khi có người nhờ phân tích bình luận để đề xuất ý tưởng cho video tiếp theo, tôi đã trả lời rằng việc đó khó. Sau này, AI đã có thể đưa ra những đề xuất như vậy. Việc có nhiều dữ liệu hơn và có thể thử nghiệm qua nhiều lần đã góp phần tạo nên thay đổi đó.

Ít tài liệu công khai không có nghĩa là AI hoàn toàn không làm được. Tuy nhiên, câu trả lời có thể kém ổn định hơn so với những lĩnh vực quen thuộc. Vì vậy, công việc càng ít phổ biến thì bạn càng cần kiểm tra kết quả kỹ lưỡng.

Khả năng tham khảo thông tin cùng lúc và ghi nhớ đều có giới hạn

Cửa sổ ngữ cảnh (phạm vi thông tin AI có thể tham khảo trong một lần) có giới hạn. Khi cuộc trò chuyện kéo dài, nội dung ở phần đầu có thể không được phản ánh đầy đủ. Với Claude Code, nên giữ tệp quy tắc dự án CLAUDE.md (tệp ghi lại các quy tắc làm việc và lý do cần tuân theo) không quá 200 dòng, đồng thời nhắc lại những nội dung quan trọng.

Giải thích vai trò của cửa sổ ngữ cảnh và CLAUDE.md

Học và sử dụng là hai việc khác nhau. Sau khi hoàn tất quá trình huấn luyện, AI không tự cập nhật mô hình mỗi lần trả lời câu hỏi; cuộc trò chuyện mới cũng không tự động tiếp nối nội dung của cuộc trò chuyện trước. Ngay cả khi có tính năng ghi nhớ hội thoại trước đó, thông tin cần thiết vẫn được lưu riêng rồi chuyển vào cuộc trò chuyện mới. Để AI không lặp lại lỗi đã sửa hôm qua, hãy ghi những quy tắc quan trọng vào tệp như CLAUDE.md và đưa tệp đó vào công việc.

Ngoài ra, AI có thể không biết các thư viện hoặc tính năng được phát hành sau thời điểm nó được huấn luyện. Câu trả lời nghe tự nhiên và thông tin có còn mới hay không là hai chuyện khác nhau. Hãy kiểm tra cách cài đặt và cách sử dụng thư viện trong tài liệu chính thức cũng như môi trường làm việc thực tế.

Minh họa cuộc trò chuyện mới bắt đầu lại từ đầu

Câu trả lời nghe hợp lý vẫn có thể sai sự thật

Ảo giác (hiện tượng AI đưa ra thông tin chưa được xác minh nhưng nghe có vẻ hợp lý) là lý do cần thận trọng: câu văn trôi chảy không đồng nghĩa với nội dung chính xác. Trong video, AI trả lời rằng số lượt hiển thị là 1.200, nhưng con số thực tế là 253. Cũng có trường hợp cấu trúc cơ sở dữ liệu chứa một quy tắc không tồn tại trong dịch vụ. Hãy đối chiếu số liệu và sự thật với dữ liệu thực tế, đồng thời kiểm tra xem câu trả lời có phù hợp với tiêu chuẩn của dịch vụ hay không.

Kiểm tra số lượt hiển thị và quy tắc cơ sở dữ liệu không có trong dịch vụ

Khi giao việc tìm kiếm cho AI, chất lượng câu trả lời không ổn định. Có trường hợp phần tìm kiếm được xử lý riêng, rồi kết quả tìm kiếm mới được chuyển cho AI. Nếu tách việc cần xác minh như tìm kiếm khỏi việc tạo câu trả lời dựa trên kết quả đó, bạn có thể phân định rõ phần nào nên giao cho công cụ và phần nào nên giao cho AI.

AI chọn từ tiếp theo dựa trên xác suất, chịu ảnh hưởng từ những gì nó đã gặp nhiều lần và có giới hạn về lượng thông tin có thể tham khảo cùng lúc. Hãy lưu các quy tắc quan trọng vào tệp, đồng thời tự kiểm tra kết quả và sự thật. AI có thể hỗ trợ viết mã, nhưng con người cần quyết định sẽ tạo ra điều gì và xem kết quả có giải quyết được vấn đề hay không.

Khi làm việc với Claude Code, bạn đã từng gặp trường hợp AI liên tục mắc lỗi hoặc trả lời khác nhau chưa?

https://youtu.be/R3xb8MHoUKE

Bài viết tóm tắt video YouTube tiếng Hàn của tôi (có phụ đề tiếng Việt) và được dịch bằng AI.


All rights reserved

Viblo
Hãy đăng ký một tài khoản Viblo để nhận được nhiều bài viết thú vị hơn.
Đăng kí