0

HttpClient trong .NET: vì sao gọi API đối tác lại hết socket

Service đặt hàng gọi sang API bên vận chuyển để tính phí ship. Ngày thường chạy êm. Hôm có chương trình khuyến mãi, tải tăng gấp mấy lần, log bắt đầu đỏ lòm một loại lỗi lạ hoắc:

System.Net.Http.HttpRequestException: Only one usage of each socket address
(protocol/network address/port) is normally permitted.

Server không thiếu CPU, không thiếu RAM. Nó thiếu... socket. Chạy netstat ra thì thấy hàng nghìn kết nối tới đúng một địa chỉ IP của bên vận chuyển, cái nào cũng nằm ở trạng thái TIME_WAIT.

Bài này đi qua mấy câu hỏi mình từng phải tự trả lời về HttpClient, từ cái lỗi trên cho tới chuyện timeout và retry.

Tạo HttpClient mới mỗi lần gọi thì sao?

Code gây ra lỗi trên trông rất ngoan:

public async Task<decimal> GetShippingFeeAsync(Order order, CancellationToken ct)
{
    // Nhìn thì gọn gàng: dùng xong dispose ngay
    using var http = new HttpClient();
    var res = await http.GetFromJsonAsync<FeeResponse>(
        $"https://api.shipping.example/fee?weight={order.Weight}", ct);
    return res!.Fee;
}

HttpClient implement IDisposable, nên ai học C# cũng có phản xạ bọc using. Vấn đề là mỗi HttpClient mới đi kèm một handler mới, và handler đó mở kết nối TCP mới. Dispose xong, kết nối đóng lại nhưng socket không được trả về ngay: hệ điều hành giữ nó ở TIME_WAIT thêm một lúc, thường vài phút tuỳ OS. Tải thấp thì không sao. Tải cao thì số socket đang chờ cứ thế chồng lên cho tới khi hết port để mở kết nối mới.

Kiểm tra nhanh trên máy chạy service:

# Windows
netstat -ano | findstr TIME_WAIT

# Linux
ss -tan state time-wait | wc -l

Thấy con số hàng nghìn mà toàn trỏ về cùng một host là gần như chắc chắn dính vụ này.

Vậy để một HttpClient static dùng chung là xong?

Đây là cách sửa đầu tiên mình nghĩ ra, và nó hết lỗi socket thật:

private static readonly HttpClient Http = new();

Một HttpClient dùng chung thì connection được giữ lại trong pool và tái sử dụng. Nhưng nó sinh ra vấn đề ngược lại: connection sống mãi, nên nếu bên kia đổi IP (chuyển data center, đổi load balancer, DNS failover), service của mình vẫn bám lấy IP cũ cho tới khi restart. Lỗi kiểu này còn khó chịu hơn vì nó hiếm, và lúc nó xảy ra thì không ai nghĩ tới HttpClient.

Nếu thật sự muốn dùng một instance dùng chung (app console, worker không có DI), cho connection một tuổi thọ:

private static readonly HttpClient Http = new(new SocketsHttpHandler
{
    // Sau 5 phút connection được thay mới, nhờ đó DNS mới có cơ hội được áp dụng
    PooledConnectionLifetime = TimeSpan.FromMinutes(5)
});

IHttpClientFactory giải quyết chuyện gì?

Trong ASP.NET Core thì mình dùng IHttpClientFactory cho khỏe. Factory quản lý handler giúp mình: handler được dùng lại giữa các lần tạo HttpClient (nên không đẻ socket mới mỗi request), và được thay mới theo chu kỳ (mặc định 2 phút) để không bám DNS cũ. Hai vấn đề ở trên được giải quyết cùng lúc.

Kiểu mình hay dùng nhất là typed client:

// Program.cs
builder.Services.AddHttpClient<ShippingClient>(client =>
{
    client.BaseAddress = new Uri("https://api.shipping.example/");
});

// ShippingClient.cs
public class ShippingClient(HttpClient http)
{
    public async Task<decimal> GetFeeAsync(decimal weight, CancellationToken ct)
    {
        var res = await http.GetFromJsonAsync<FeeResponse>($"fee?weight={weight}", ct);
        return res!.Fee;
    }
}

Service nào cần gọi bên vận chuyển thì inject ShippingClient, không ai phải tự new HttpClient nữa. Cấu hình base URL, header, timeout nằm gọn một chỗ.

Có một cái bẫy nhỏ: typed client được đăng ký là transient. Nếu inject nó vào một service singleton, nó bị giữ lại suốt đời app, handler bên trong không bao giờ được thay, và mình quay về đúng vấn đề DNS của bản static. Chuyện service sống ngắn bị service sống dài giữ lại là cả một chủ đề, mình viết riêng ở bài sau về DI lifetime.

Timeout bao nhiêu là vừa?

HttpClient.Timeout mặc định là 100 giây. Với một API tính phí ship mà bình thường trả lời trong vài trăm mili giây, 100 giây là quá lâu. Bên kia treo thì request của mình treo theo 100 giây, giữ connection, giữ luôn request của user. Nhớ lại bài trước về thread pool: chờ lâu với số lượng lớn là cách nhanh nhất để kéo cả service đi theo.

Mình đặt timeout dựa trên việc bên kia bình thường mất bao lâu, cộng thêm một khoảng dư, và quan trọng hơn là dựa trên việc user của mình chịu chờ được bao lâu. Nếu trang thanh toán chỉ chờ được 5 giây thì gọi phí ship mà để timeout 30 giây là vô nghĩa.

Retry thế nào cho khỏi gửi một request hai lần?

Gọi qua mạng thì sẽ có lúc lỗi lặt vặt: timeout một lần, 503 một lần, connection bị reset. Retry là đúng, nhưng retry bừa thì nguy hiểm.

Từ .NET 8 có package Microsoft.Extensions.Http.Resilience (xây trên Polly v8), gắn vào typed client bằng một dòng:

builder.Services.AddHttpClient<ShippingClient>(client =>
{
    client.BaseAddress = new Uri("https://api.shipping.example/");
})
.AddStandardResilienceHandler(options =>
{
    // Mỗi lần thử tối đa 3 giây, cả chuỗi retry tối đa 10 giây
    options.AttemptTimeout.Timeout = TimeSpan.FromSeconds(3);
    options.TotalRequestTimeout.Timeout = TimeSpan.FromSeconds(10);

    // Không retry POST, PUT, PATCH, DELETE: tránh tạo đơn hay trừ tiền hai lần
    options.Retry.DisableForUnsafeHttpMethods();
});

Standard handler gói sẵn mấy lớp: giới hạn số request đồng thời, timeout cho cả chuỗi, retry có backoff và jitter, circuit breaker, timeout cho từng lần thử. Mặc định cả chuỗi là 30 giây, mỗi lần thử 10 giây, retry tối đa 3 lần. Mình chỉnh lại timeout cho hợp với API thật, còn lại để mặc định.

Dòng quan trọng nhất là DisableForUnsafeHttpMethods(). GET phí ship thì retry thoải mái. Còn POST tạo vận đơn mà retry, trong khi lần đầu thật ra đã thành công chỉ là response về chậm, thì bên kia có hai vận đơn. Muốn retry được cả request ghi thì phải có idempotency key, và bên kia phải hỗ trợ nó. Chuyện đó mình để cho bài về concurrency và idempotency trong series.

Circuit breaker thì đáng một câu riêng. Khi bên kia chết hẳn, retry chỉ làm mọi thứ tệ hơn: mỗi request của user giờ tốn gấp mấy lần thời gian chờ, và bên kia đang sập lại bị dội thêm request. Circuit breaker thấy tỉ lệ lỗi vượt ngưỡng thì "ngắt" một lúc, request fail ngay lập tức thay vì chờ. Fail nhanh nghe có vẻ tệ, nhưng tốt hơn nhiều so với để user ngồi nhìn vòng xoay.


Thử ngay thì dễ: search new HttpClient( trong solution. Mỗi chỗ tìm thấy nằm trong một hàm được gọi theo request là một ứng viên cho sự cố hết socket, chuyển nó sang typed client là xong. Rồi xem lại timeout của các client đang có, cái nào còn để mặc định 100 giây thì đặt lại cho hợp.

Bài sau trong series là DI lifetime: chuyện một service singleton giữ nhầm service scoped và làm data của user này lọt sang user khác. Còn nếu bạn chưa đọc bài trước về async/await và thread pool, hai bài này đi với nhau khá khớp: HttpClient chờ lâu cộng .Result là công thức chuẩn cho một buổi sáng mất ngủ.

P.S. Trước khi tích hợp một API đối tác mới, giờ mình hay liệt kê trước xem nó có thể hỏng theo những kiểu nào. Mình dùng skill edge-case-scenario-gen trong PrimeKit, bộ skill mình tự làm. Skill tách tính năng ra theo 12 chiều, trong đó có chiều Timing (timeout, mạng chậm, retry storm) và Error Cascades (API timeout, mạng đứt giữa chừng), đúng mấy thứ bài này nói. Cài bằng npx @lovehlmmm/primekit init, rồi gõ /pk:edge-case-scenario-gen --focus failures kèm mô tả luồng gọi API. Nó cho ra danh sách kịch bản để test, còn timeout bao nhiêu và retry thế nào thì vẫn là quyết định của bạn.


All rights reserved

Viblo
Hãy đăng ký một tài khoản Viblo để nhận được nhiều bài viết thú vị hơn.
Đăng kí