Rust For Machine Learning - Tạo sinh văn bản - Phần 02

Trong phần trước chúng ta đã cùng nhau đi qua thiết kế tổng thể mô-đun tự động tải mô hình ngôn ngữ lớn về từ HuggingFace và các kỹ thuật liên quan sẽ được sử dụng. Trng phần này, chúng ta sẽ cùng nhau triển khai thiết kế tổng thể nêu trên.

Trong phần này, tôi cũng sẽ chia sẻ và giải thích các tình huống hay gặp khi chúng ta sử dụng hf-hub để tải mô hình về từ HuggingFace. Chúng ta sẽ cùng tìm hiểu cơ chế caching của hf-hub, nó giúp chúng ta không tiêu tốn nguồn lực mỗi khi chạy chương trình và cần tải về mô hình từ HuggingFace.

Chúng ta sẽ cùng nhau tìm hiểu cách khai thác cơ chế async trong việc tải về các mô hình và có lẽ đoạn mã thú vị nhất là đoạn dưới:

pub async fn get_model_files(...) {
  ...
  set.spawn(async move {
    repo_in_task.get(&file_to_get).await
      .map_err(|e| format!("{file_to_get}: {e}"))
  });
  ...
}            

Hãy cùng RustDev Vietnam tìm hiểu cách xây dựng một ứng dụng tạo sinh văn bản cơ bản trong video “#0052 - Rust For Machine Learning - Tạo sinh văn bản - Phần 02” trên kênh Youtube RustDev Vietnam.

Các bạn cũng đừng quên nhấn đăng ký kênh để không bỏ lỡ bất kỳ video nào của chúng tôi nhé!