Một cách trực quan bạn có thể hiểu là shifted window giúp khắc phục hạn chế của việc chỉ tính toán self-attention cục bộ. Ở các layer kế tiếp, các window được dịch chuyển (nên gọi là shift) với khoảng cách là 1 một nửa kích thước (M/2) so với cửa sổ trước đó, ví dụ dịch chuyển 2 pixels với cửa sổ 4x4.
Điều này cho phép các patches nằm ở ranh giới của các window trước đó được kết nối với các patches trong window mới. Và vì vậy thì mô hình có thể nắm bắt được mối quan hệ giữa các vùng ảnh ở xa hơn, đồng thời vẫn duy trì hiệu quả tính toán cục bộ. Ngoài ra nhờ việc dịch chuyển window giữa các tầng liên tiếp, mô hình cũng có thể kết nối và nắm bắt được thông tin từ toàn bộ ảnh qua nhiều lần tính toán.
THẢO LUẬN
cảm ơn bạn 😀
👍️
Python on steroid 🤪🤪🤪
Tác giả so sánh thêm bản GPU của Numba với CuPy nữa xem sao
mTLS là cả client và server đều gửi SSL Certificate cho đối phương để verify lẫn nhau.
Đỉnh quá anh
tôi nghĩ là con hàng này bắt đầu nhanh và dùng khá ổn, nhưng mà để mà lựa chọn khi làm cho doanh nghiệp tôi sẽ ưu tiên Tanstack Query
Khi nào ra phần tiếp theo nhỉ
Blog bằng Tiếng Việt là một tài liệu dễ tiếp cận với anh em dev. Nhưng mà mình nghĩ nếu bạn translate phiên bản gốc của tác giả ở đây thì nên đính kèm thêm nguồn ạ. Link gốc: https://www.freecodecamp.org/news/what-is-rate-limiting-web-apis
Dạ vâng em cảm ơn a ạ. Nếu có thời gian thì em sẽ tìm hiểu thêm ạ 😄
dep trai
bài viết rất hay
bài viết rất hữu ích
mình cũng không thấy đâu, còn tưởng mạng bị gì -.-
Một cách trực quan bạn có thể hiểu là shifted window giúp khắc phục hạn chế của việc chỉ tính toán self-attention cục bộ. Ở các layer kế tiếp, các window được dịch chuyển (nên gọi là shift) với khoảng cách là 1 một nửa kích thước (M/2) so với cửa sổ trước đó, ví dụ dịch chuyển 2 pixels với cửa sổ 4x4.
Điều này cho phép các patches nằm ở ranh giới của các window trước đó được kết nối với các patches trong window mới. Và vì vậy thì mô hình có thể nắm bắt được mối quan hệ giữa các vùng ảnh ở xa hơn, đồng thời vẫn duy trì hiệu quả tính toán cục bộ. Ngoài ra nhờ việc dịch chuyển window giữa các tầng liên tiếp, mô hình cũng có thể kết nối và nắm bắt được thông tin từ toàn bộ ảnh qua nhiều lần tính toán.
@phanhoang bài viết hay quá
Bạn có thể giải thích cho mình rõ hơn về cách hoạt động của Shifted Windows được không ?
bạn thử lại nhé, mình vừa thấy có email rồi, lắm lúc mail gửi nó hơi bị delay lâu quá
@sang611 mình đang check nhé
@maitrungduc1410 mình lấy session mới nhưng không thấy mail bắn về
Vl đã cóp bài thì bỏ chút công đọc lại sau gg dịch đi bro