Best way để upload 100k rows file excel vào database
Đông Trần
Đã trả lời thg 5 31, 2023 4:47 CH
Mình đã làm qua bài toán tương tự, bạn tham khảo các bước như sau mình từng làm nhé:
- Upload file lên S3 hoặc các dịch vụ tương tự, khi ấy chúng ta sẽ có đường dẫn để tải file đó về
- Tạo service task scheduler/cronjob hoặc bắn kafka qua 1 service nào đó để xử lý ngầm. Chúng ta có thể thiết lập service task scheduler để chạy định kỳ hoặc xử lý ngay lập tức khi có file mới được tải lên.
- Truy xuất file từ S3, service task scheduler sẽ truy xuất file từ S3 bằng cách sử dụng đường dẫn đã được cung cấp khi tải file lên.
- Validate từng row dữ liệu, nếu row không hợp lệ, ghi lại thông tin lỗi tương ứng với row đó vào log hoặc database,... và lưu thêm trạng thái xử lý thành công hay thất bại
- Trả lại kết quả lỗi cho người dùng, ở đây bạn có thể lấy data từ log/database lên để trả về file kết quả lỗi, hoặc bước này bạn có thể làm ở bước ở trên, lưu file vào s3, khi người dùng cần tải thông tin lỗi thì mình sẽ trả lại liên kết file đấy chúc bạn sớm tìm dc giải pháp
0
Tổ chức
Chưa có tổ chức nào.