Tăng độ song song của MySQL CDC lên 8: Vì sao cả 8 reader cùng đọc một bảng?
Bạn đặt độ song song của MySQL CDC trong Apache SeaTunnel thành 8, cấu hình 12 bảng rồi nhận ra gần như mọi lượt đọc đều tập trung vào một bảng đơn hàng lớn. Bộ phân bổ có lỗi ư? Chưa chắc. Độ song song cho biết các reader có thể xử lý đồng thời bao nhiêu phần việc, chứ không cam kết các phần việc đó đến từ bao nhiêu bảng khác nhau. Một bảng lớn hoàn toàn có thể dùng hết cả 8 reader.
Để hiểu vì sao, hãy tách hai câu hỏi. Thứ nhất, các split của snapshot được phân bổ thế nào? Thứ hai, trong một split, trạng thái vừa đọc từ bảng được ghép với các thay đổi đang diễn ra trong binlog ra sao? Câu hỏi thứ nhất quyết định bạn có tận dụng hết tài nguyên không. Câu hỏi thứ hai quyết định dữ liệu đồng bộ có đúng không.
Không phải 8 bảng, mà là tối đa 8 split đang được đọc
Khi có khóa chia phù hợp, connector chia một bảng thành các khoảng khóa, chẳng hạn orders:[1,1000) và orders:[1000,2000). Mỗi SnapshotSplit thuộc về một bảng; nhiều reader có thể đồng thời đọc các split khác nhau của cùng một bảng. Nếu chỉ đếm các bảng khác nhau đang được đọc ở nguồn, giới hạn trên là giá trị nhỏ hơn giữa số reader snapshot đang hoạt động và số bảng cần thu thập. Trong giới hạn đó, số bảng thực sự hoạt động cùng lúc phụ thuộc vào các split có thể cấp phát, cách chúng phân bố theo bảng, thời điểm từng reader đọc xong và lịch phân bổ thực tế. Giới hạn này không phải số bảng được ghi đồng thời ở đích: việc định tuyến, đệm và commit của writer có nhịp riêng.
Ví dụ về cách phân bổ:
| Reader | Thời điểm A | Thời điểm B |
|---|---|---|
| 1 | Split 1 của orders | Split 4 của orders |
| 2 | Split 2 của orders | Split 1 của customers |
| 3 | Split 3 của orders | Split 1 của products |
Ở cả hai thời điểm đều có thể có 3 lượt đọc song song, nhưng số bảng đang được đọc có thể tăng từ 1 lên 3. Ngược lại, trong luồng phân tích để đọc song song mặc định, nếu một bảng không có cột chia phù hợp, connector chỉ dùng một split cho toàn bảng khi nguồn đặt exactly_once = false. Nếu đặt thành true, nhánh này báo lỗi thay vì tiếp tục với một split (mã triển khai bộ chia split). Với bảng phù hợp với một split duy nhất, tăng số reader không tự động chia nhỏ split đó. FAQ của SeaTunnel 3.1.0 cũng phân biệt khóa chia với khóa định danh dòng: đọc được một dòng không có nghĩa hệ thống đích có thể xác định duy nhất dòng đó để cập nhật hoặc xóa. Đặc biệt, không thể mặc nhiên dùng một chỉ mục duy nhất cho phép giá trị NULL làm khóa chính của CDC.
Dòng bị xóa sau khi SELECT đọc qua không được snapshot ghi trở lại
Giả sử câu SQL SELECT của orders:[1000,2000) đã đọc đơn hàng 1042. Sau đó, một giao dịch nghiệp vụ xóa đơn hàng này ngay trong cửa sổ snapshot của split. Nếu hệ thống để dòng từ snapshot đến đích sau sự kiện xóa, đơn hàng 1042 sẽ “sống lại”. Một câu SELECT nhanh hơn có thể làm tình huống này ít xảy ra hơn, nhưng không thay đổi điều kiện để kết quả đúng.
Có thể nhìn rõ ranh giới hợp nhất bằng cách đặt split trên trục vị trí log:
LOW (vị trí trước khi đọc) → SELECT trong khoảng khóa → HIGH (vị trí sau khi đọc) → binlog tiếp theo
└── Đối chiếu thay đổi log với snapshot ──┘
Xét SeaTunnel 3.1.0, lần khởi động đầu tiên ở chế độ initial với exactly_once bật ở nguồn. Tác vụ đọc snapshot MySQL ghi lại LOW và HIGH trước và sau truy vấn. Tác vụ snapshot MySQL dùng hai vị trí này để tạo một lượt đọc bù binlog có giới hạn. Nếu LOW và HIGH trùng nhau, nó phát ngay dấu kết thúc mà không đọc thêm log. Snapshot fetcher đưa các dòng snapshot vào bộ đệm đánh chỉ mục theo khóa, hợp nhất những thay đổi trong khoảng đó rồi đợi đến END mới xuất split đã hợp nhất. Nếu đơn hàng 1042 đã bị xóa khi cửa sổ kết thúc, nó không được xuất dưới dạng một dòng snapshot còn hiệu lực.
Khi chuyển từ snapshot sang đọc tăng dần, còn hai điều kiện cần chú ý. Thứ nhất là điều kiện phân bổ. Trong luồng đọc kết hợp của 3.1.0, khi chỉ có một reader, giai đoạn snapshot có thể được đánh dấu hoàn tất ngay sau khi nhận đủ báo cáo hoàn thành các split. Với nhiều reader, phải có một checkpoint thành công sau khi mọi split snapshot đã hoàn tất thì bộ phân bổ mới cấp incremental split. Nếu tất cả split snapshot đã đọc xong mà binlog reader chưa khởi động, hãy kiểm tra checkpoint trước khi kết luận việc đọc log quá chậm. Điều kiện này chi phối việc chuyển giai đoạn của engine, không bảo đảm commit ở cơ sở dữ liệu. Xem điều kiện hoàn tất snapshot và điều kiện cấp incremental split.
Thứ hai là lọc log. Với mỗi nhóm đọc tăng dần sau snapshot đầu tiên, bộ phân bổ bắt đầu ở HIGH sớm nhất trong các split mà nhóm phụ trách, đồng thời chuyển cho reader cả khoảng khóa lẫn mốc watermark của từng split. Ví dụ, HIGH của split A là 100 và của B là 160. Một thay đổi thuộc A ở vị trí 120 không được bỏ chỉ vì B đã quét đến 160. Ngược lại, bản ghi ở vị trí 120 thuộc khoảng khóa của B đã được phản ánh trong trạng thái mà split B xuất ra; không nên phát nó lần nữa như một thay đổi mới trong cùng giai đoạn. Incremental fetcher kiểm tra khoảng khóa và watermark của split cho đến khi chạm ngưỡng trên của watermark snapshot của bảng tương ứng. Khi offset đạt hoặc vượt HIGH lớn nhất trong các split của bảng đó, nó chuyển sang đường xử lý thuần tăng dần. Phép so sánh dùng đối tượng offset của connector, không phải phép trừ timestamp hay position giữa các tệp log. Các số 100, 120 và 160 chỉ minh họa vị trí trên cùng một chuỗi log, không phải log thực tế.
Nếu tắt exactly_once ở nguồn, 3.1.0 bỏ qua lượt đọc bù trong từng split và lần chuyển tiếp đầu tiên bắt đầu ở LOW sớm nhất của các split liên quan. Không nên coi đầu ra trung gian, việc phát lại và những gì phía downstream có thể quan sát được là giống nhau giữa hai chế độ. Cả hai đều không tạo snapshot nguyên tử tại cùng một thời điểm trên nhiều bảng hoặc nhiều cơ sở dữ liệu, và cũng không bảo đảm commit của JDBC sink. Bài báo DBLog của Netflix dùng watermark để giải quyết dạng cạnh tranh tương tự, nhưng các dấu mốc và cách phân bổ công việc khác SeaTunnel.
Làm sao biết cần chỉnh tham số nào?
- Xem phân bố thời gian hoàn thành các split trước khi tăng độ song song của snapshot. Nếu phần lớn reader đang chờ và chỉ còn một split chạy lâu, hãy ưu tiên kiểm tra khóa chia và độ lệch phân bố dữ liệu. Nếu tất cả reader đều bận, hãy xem tải truy vấn MySQL, độ trễ replication và thông lượng ở đích trước.
- Phân biệt kích thước split với kích thước mỗi lượt fetch.
snapshot.split.sizekiểm soát độ mịn khi chia công việc. SeaTunnel truyền giá trịsnapshot.fetch.sizedương vàosetFetchSizecủa JDBC. Trong MySQL Connector/J, giá trị fetch size dương chỉ quyết định số dòng lấy qua con trỏ mỗi lượt khi bậtuseCursorFetch; tùy chọn này mặc định tắt. Split nhỏ hơn có thể rút ngắn phần đuôi chậm nhưng làm tăng chi phí quản lý split. Giữ nguyên thiết lập kết nối và tải công việc, rồi thay đổi từng mục để đo số lượt trao đổi và bộ nhớ của reader. - Đo riêng tốc độ đọc binlog để bắt kịp nguồn. Trong 3.1.0,
incremental.parallelismlà cấu hình riêng cho đọc binlog và mặc định là 1. Bộ phân bổ đưa các bảng cần thu thập vào các nhóm theo vòng luân phiên rồi bỏ qua nhóm rỗng; nó không chia binlog của một bảng nóng theo khoảng khóa chính. Tham số này mô tả số nhóm, không tự tăng số Source reader cho job. Khi kiểm tra, đối chiếu cả độ song song thực tế của Source, số reader khả dụng và khoảng ID của các client replication MySQL. Với một bảng duy nhất, tăng giá trị này không chia bảng đó thành nhiều nhóm đọc tăng dần. Có nhiều nhóm cũng không đồng nghĩa với việc có thứ tự giao dịch toàn cục giữa các nhóm. Trước hết, hãy xác định điểm nghẽn nằm ở đọc log, biến đổi dữ liệu hay commit tại đích. - Coi thời hạn lưu log là ngân sách thời gian. Cửa sổ lưu giữ phải đủ cho lần đọc toàn bộ, thời gian dừng và khôi phục có thể dự báo, cùng phần dự phòng để bắt kịp nguồn. Đồng thời theo dõi vị trí cũ nhất còn cần đến và dung lượng đĩa dùng cho log. Đừng đợi binlog bị dọn mới quyết định nên khôi phục từ vị trí còn dùng được hay dựng lại dữ liệu đích.
- Nghiệm thu bằng các thao tác ghi chủ động tạo tình huống khó. Trong kiểm thử có kiểm soát, dùng log ghi nhận giai đoạn hoặc hook kiểm thử để xác nhận các thao tác ghi rơi đúng cửa sổ đã định. Sau đó cập nhật hoặc xóa một khóa trong split đang đọc, đồng thời chèn một khóa thuộc khoảng khác. Khi đã bắt kịp nguồn, đối chiếu theo khóa chính; nếu điều kiện cho phép, kiểm tra thêm lần gián đoạn và khôi phục snapshot. Chèn ngẫu nhiên một dòng sau khi job khởi động không chứng minh được đã chạm ranh giới watermark. Giữ nguyên tổng số dòng là một điều kiện kiểm thử hữu ích, vì trường hợp này có thể lọt qua cách giám sát dễ gây ngộ nhận nhất.
Mục tiêu tối ưu snapshot không phải là làm cho mọi reader đều hiển thị đang bận. Mục tiêu là hoàn thành split chậm nhất sớm nhất có thể trong giới hạn tải mà nguồn chịu được, đồng thời không bỏ sót hoặc ghi đè trạng thái nghiệp vụ mới bằng dữ liệu cũ khi chuyển sang binlog. Đo hai kết quả riêng biệt để biết lần điều chỉnh đã cải thiện được phần nào.
All rights reserved