0

Caching trong ASP.NET Core: cache hết hạn một lượt và DB sập theo

Trang chủ của shop được cache 5 phút, chạy êm cả năm. Đến đêm flash sale, đúng 0 giờ, lượng truy cập tăng vọt. Đúng lúc đó cache trang chủ hết hạn. Vài trăm request cùng thấy cache trống, cùng lao xuống database chạy một câu query nặng. CPU của SQL Server dựng đứng lên 100%, query nào cũng timeout, và trang chủ, thứ đáng lẽ được cache bảo vệ, là thứ đầu tiên sập.

Hiện tượng này có tên là cache stampede. Bài này đi lại con đường mà cache của mình đã đi: từ không có cache, tới IMemoryCache, tới Redis, rồi tới chỗ chống được stampede. Mỗi bước giải quyết một vấn đề và đẻ ra một vấn đề mới.

Bước 0: chưa có cache

Trang chủ cần danh mục, banner, top sản phẩm bán chạy. Mỗi request chạy vài query, trong đó câu tính top bán chạy là nặng nhất. Lúc ít người thì không sao. Lúc đông người, cùng một kết quả được tính đi tính lại hàng nghìn lần mỗi phút, trong khi nó chỉ thay đổi vài lần mỗi ngày. Đây là ứng viên hoàn hảo cho cache.

Bước 1: IMemoryCache

public async Task<HomePageDto> GetHomeAsync(CancellationToken ct)
{
    return (await _memoryCache.GetOrCreateAsync("home", async entry =>
    {
        entry.AbsoluteExpirationRelativeToNow = TimeSpan.FromMinutes(5);
        return await BuildHomeAsync(ct);
    }))!;
}

Nhanh, đơn giản, không thêm hạ tầng nào. Chạy một instance thì ổn. Nhưng app chạy 4 instance sau load balancer, và mỗi instance có cache riêng trong RAM của nó. Admin đổi banner xong, xoá cache trên một máy thì ba máy kia vẫn trả banner cũ, user F5 mỗi lần thấy một kiểu.

Còn một chuyện ít người để ý: GetOrCreateAsync của IMemoryCache không khoá gì cả. Hai trăm request cùng thấy cache trống thì cả hai trăm cùng chạy BuildHomeAsync. Cái mầm của vụ đêm flash sale nằm sẵn ở đây.

Bước 2: Redis cho nhiều instance

Để mọi instance thấy cùng một cache, mình chuyển sang distributed cache với Redis:

builder.Services.AddStackExchangeRedisCache(options =>
{
    options.Configuration = builder.Configuration.GetConnectionString("Redis");
});

Rồi dùng IDistributedCache: tự serialize object ra JSON để lưu, tự deserialize khi đọc. Hết cảnh mỗi máy một kiểu. Đổi lại mỗi lần đọc cache là một lượt gọi mạng sang Redis, và code lặp đi lặp lại đoạn "đọc, không có thì tính, rồi ghi".

Stampede thì vẫn còn nguyên. Cache hết hạn trên Redis, mọi instance cùng thấy trống cùng lúc, và cả bốn máy cùng dội xuống DB.

Bước 3: chống stampede với HybridCache

HybridCache ra mắt cùng .NET 9 (chạy được trên .NET 8 qua package Microsoft.Extensions.Caching.Hybrid) gom mấy thứ ở trên lại làm một:

  • Hai tầng: tầng 1 trong RAM của từng instance, tầng 2 là distributed cache (Redis) nếu có đăng ký.
  • Tự serialize, mình chỉ đưa key và hàm tính giá trị.
  • Chống stampede: cùng một key, trong một instance, chỉ một request được chạy hàm tính, các request khác đứng chờ và dùng chung kết quả.
builder.Services.AddStackExchangeRedisCache(options =>
    options.Configuration = builder.Configuration.GetConnectionString("Redis"));

builder.Services.AddHybridCache(options =>
{
    options.DefaultEntryOptions = new HybridCacheEntryOptions
    {
        Expiration = TimeSpan.FromMinutes(5),          // tầng Redis
        LocalCacheExpiration = TimeSpan.FromMinutes(1) // tầng RAM: để ngắn cho đỡ lệch giữa các máy
    };
});
public class HomeService(HybridCache cache)
{
    public async Task<HomePageDto> GetHomeAsync(CancellationToken ct) =>
        await cache.GetOrCreateAsync(
            "home:v1",
            async token => await BuildHomeAsync(token),
            cancellationToken: ct);
}

Một chi tiết cần hiểu đúng: chống stampede ở đây là trong từng instance. Bốn instance thì tệ nhất có bốn lần tính cùng lúc, chứ không còn là vài trăm. Với trang chủ shop của mình, bốn query nặng là thứ DB chịu được dễ dàng. Hệ thống có hàng chục instance thì phải tính thêm, ví dụ một job chủ động làm mới cache trước khi nó hết hạn.

Bước 4: đừng để mọi thứ hết hạn cùng một lúc

Đêm flash sale còn có một vấn đề nữa: không chỉ trang chủ, mà cả trăm key khác được tạo cùng lúc lúc deploy, nên cũng hết hạn cùng lúc. Cách rẻ nhất là cộng thêm một khoảng ngẫu nhiên vào thời gian hết hạn:

var options = new HybridCacheEntryOptions
{
    // 5 phút cộng 0–60 giây ngẫu nhiên: các key không hết hạn cùng một giây
    Expiration = TimeSpan.FromMinutes(5) + TimeSpan.FromSeconds(Random.Shared.Next(0, 60))
};

Còn khi data đổi, đừng ngồi chờ cache tự hết hạn. Admin lưu banner xong thì xoá luôn key:

await cache.RemoveAsync("home:v1", ct);

Lệnh này xoá trên Redis và tầng RAM của chính instance đó. Tầng RAM của các instance khác vẫn có thể giữ bản cũ thêm tối đa LocalCacheExpiration, lý do mình để tầng RAM chỉ 1 phút.

Cache cái gì, không cache cái gì

Cache tốt nhất cho data đọc rất nhiều, đổi rất ít, và trễ vài phút cũng không ai chết: danh mục, cấu hình, trang chủ, top sản phẩm.

Mấy thứ mình không cache, hoặc cache rất cẩn thận:

  • Data riêng của từng user. Key phải chứa user id (cart:{userId}). Quên một lần là user này thấy giỏ hàng của user kia, đúng kiểu lỗi ở bài DI lifetime nhưng qua đường khác.
  • Giá và tồn kho lúc thanh toán. Trang danh sách thì cache được, nhưng bước tạo đơn phải đọc DB thật.
  • Thứ mà sai một chút là ra tiền. Số dư, hạn mức, mã giảm giá đã dùng.

Thử ngay: tìm các chỗ đang dùng IMemoryCache.GetOrCreateAsync cho data đắt để tính, rồi tự hỏi app có chạy nhiều instance không, và chuyện gì xảy ra nếu vài trăm request cùng đến đúng lúc key đó hết hạn. Nếu câu trả lời làm bạn chột dạ, HybridCache là bước tiếp theo khá rẻ.

Bài sau, cũng là bài cuối của đợt này, nói về bảo mật API: đổi id trên URL là xem được đơn người khác. Còn bạn đang chống stampede kiểu gì? Comment cho mình biết với.

P.S. Chuyển sang Redis rồi thì câu hỏi tiếp theo là đặt key thế nào, TTL bao lâu, dùng string hay hash. Mình hay nhờ AI soát lại thiết kế đó bằng skill redis-core trong PrimeKit, bộ skill mình tự làm, chuyển thể từ bộ skill chính thức của Redis. Skill chọn cấu trúc dữ liệu, cách đặt tên key và thời gian hết hạn dựa trên kiểu truy cập thực tế, và nhắc giữ số key trong giới hạn. Cài bằng npx @lovehlmmm/primekit init, rồi gõ /pk:redis-core kèm mô tả data cần cache. Skill nói chuyện Redis chung, không riêng gì .NET, nên phần cấu hình HybridCache thì bạn vẫn tự làm theo bài này.


All rights reserved

Viblo
Hãy đăng ký một tài khoản Viblo để nhận được nhiều bài viết thú vị hơn.
Đăng kí