Checklist bảo mật Cloud Server trước khi chạy Docker và Kubernetes (kèm file cloud-init YAML)
Checklist bảo mật Cloud Server là việc nên làm xong trước khi cài Docker hay join máy vào cụm Kubernetes, chứ không phải sau khi đã có sự cố. Rất nhiều cụm bị lộ không phải vì lỗ hổng phức tạp, mà vì cổng SSH còn cho đăng nhập bằng mật khẩu, cổng kubelet mở ra Internet, hoặc container publish cổng vượt qua tường lửa mà người quản trị không biết. Server chạy container khó hơn server web thông thường ở chỗ Docker và Kubernetes tự sửa luật mạng của hệ điều hành, nên cấu hình tường lửa "như mọi khi" có thể không còn đúng. Bài này đi qua từng mục cần kiểm tra theo hai lớp (truy cập hệ điều hành và mạng), rồi gói lại thành một file cloud-init YAML để mọi server mới đều đạt chuẩn ngay từ lúc tạo.
Bài này giúp bạn
- Có danh sách 8 mục kiểm tra bảo mật cho Cloud Server sẽ chạy Docker hoặc làm node Kubernetes.
- Hiểu vì sao cổng Docker publish có thể đi vòng qua ufw và cách chặn đúng.
- Biết cổng Kubernetes nào chỉ được mở trong mạng nội bộ.
- Có file cloud-init YAML áp dụng phần lớn checklist ngay khi tạo server.
Vì sao server chạy container cần checklist riêng?
Với một server chạy Nginx và ứng dụng web, mô hình bảo mật khá đơn giản: tường lửa chặn hết, mở cổng 22, 80, 443 là xong. Khi cài Docker, bức tranh thay đổi. Theo tài liệu chính thức của Docker, Docker và ufw dùng luật tường lửa theo cách không tương thích với nhau, và lưu lượng tới container được chuyển hướng trước khi đi qua luật của ufw (Docker docs: Packet filtering and firewalls). Nói cách khác, bạn thấy ufw status báo cổng 8080 đang đóng, nhưng container publish cổng 8080 vẫn truy cập được từ Internet.
Kubernetes còn thêm nhiều thành phần lắng nghe trên mạng: API server, etcd, kubelet, các cổng NodePort. Mỗi thành phần là một cánh cửa, và nếu server được tạo với IP public mà không có lớp mạng riêng, các cánh cửa đó mở thẳng ra ngoài. Vì vậy checklist dưới đây chia làm hai lớp: lớp truy cập và hệ điều hành (ai được vào máy, máy có được vá lỗi không), và lớp mạng (máy nghe ở cổng nào, ai được gọi tới).
Nếu bạn chưa cài Docker, có thể xem bài Cài Docker trên Cloud Server Ubuntu trước, rồi quay lại áp dụng checklist này.
Checklist bảo mật Cloud Server ở lớp truy cập và hệ điều hành
Lớp này trả lời câu hỏi "ai vào được máy, và vào bằng cách nào". Phần lớn các vụ chiếm quyền server đơn giản bắt đầu từ SSH mật khẩu yếu hoặc phần mềm chưa vá, nên đây là lớp nên làm trước.
1. Chỉ đăng nhập SSH bằng key, tắt mật khẩu
Mật khẩu có thể bị dò, còn SSH key thì gần như không. Tạo key trên máy cá nhân, đưa public key lên server, kiểm tra đăng nhập bằng key thành công, sau đó mới tắt đăng nhập mật khẩu:
# Trên máy cá nhân: tạo key ed25519
ssh-keygen -t ed25519 -C "ten-ban@laptop"
# Đưa public key lên server (thay user và địa chỉ)
ssh-copy-id -i ~/.ssh/id_ed25519.pub deploy@<IP-server>
Sau khi đăng nhập bằng key được, sửa /etc/ssh/sshd_config (hoặc tạo file trong /etc/ssh/sshd_config.d/):
PasswordAuthentication no
PermitRootLogin no
PubkeyAuthentication yes
Kiểm tra cú pháp rồi mới khởi động lại dịch vụ, để không tự khoá mình ra ngoài:
sudo sshd -t && sudo systemctl restart ssh
Lưu ý: tên dịch vụ là ssh trên Ubuntu/Debian và sshd trên CentOS/Rocky. Giữ nguyên phiên SSH đang mở cho tới khi mở phiên thứ hai thành công.
2. Không dùng root hằng ngày, tạo user sudo riêng
Mỗi người quản trị nên có user riêng thuộc nhóm sudo, để nhật ký ghi rõ ai làm gì. Tài khoản root chỉ dùng qua sudo, không đăng nhập trực tiếp (đã tắt bằng PermitRootLogin no ở trên). Khi một người rời team, bạn xoá user và key của người đó mà không phải đổi mật khẩu chung.
Một điểm hay bị bỏ qua với server chạy Docker: user thuộc nhóm docker có quyền tương đương root, vì có thể chạy container mount cả thư mục / của máy. Chỉ thêm vào nhóm docker những người thật sự cần.
3. Bật cập nhật bảo mật tự động
Lỗ hổng trong OpenSSH, kernel hay thư viện hệ thống được công bố thường xuyên. Trên Ubuntu, gói unattended-upgrades tự cài các bản vá bảo mật:
sudo apt-get install -y unattended-upgrades
sudo dpkg-reconfigure -plow unattended-upgrades
Với node Kubernetes, nên cấu hình để không tự khởi động lại máy; thay vào đó lên lịch kubectl drain từng node rồi mới reboot, để workload được dời đi trước.
4. Chặn dò mật khẩu và theo dõi nhật ký đăng nhập
Dù đã tắt mật khẩu, bot vẫn gõ cửa SSH liên tục và làm đầy nhật ký. fail2ban đọc nhật ký và tạm chặn IP gửi quá nhiều lần đăng nhập thất bại:
sudo apt-get install -y fail2ban
sudo systemctl enable --now fail2ban
sudo fail2ban-client status sshd
Ngoài ra, hãy tập thói quen xem last và journalctl -u ssh mỗi tuần, hoặc gửi nhật ký về một hệ thống tập trung. Một lần đăng nhập lúc 3 giờ sáng từ IP lạ đáng được chú ý hơn bất kỳ cảnh báo CPU nào.
Checklist bảo mật ở lớp mạng khi chạy Docker và Kubernetes
Lớp này trả lời câu hỏi "máy đang nghe ở cổng nào, và ai được gọi tới cổng đó". Đây là chỗ server chạy container khác server thường nhiều nhất.
5. Mặc định chặn tất cả chiều vào, chỉ mở cổng cần thiết
Nguyên tắc "deny by default": chặn mọi kết nối vào, rồi mở từng cổng có lý do. Với ufw:
sudo ufw default deny incoming
sudo ufw default allow outgoing
sudo ufw allow 22/tcp # SSH; nên giới hạn theo IP văn phòng nếu được
sudo ufw allow 80,443/tcp # chỉ trên node nhận traffic web
sudo ufw enable
sudo ufw status verbose
Trước khi bật, kiểm tra lại đã cho phép cổng SSH, nếu không phiên hiện tại sẽ bị ngắt. Sau đó dùng sudo ss -tulpn để liệt kê mọi tiến trình đang nghe và tự hỏi: cổng này có cần nghe trên mọi địa chỉ không?
6. Không để Docker publish cổng ra mọi địa chỉ
Tài liệu Docker ghi rõ việc publish cổng container "không an toàn theo mặc định": -p 8080:80 mở cổng 8080 trên mọi địa chỉ của máy, nên cả Internet cũng gọi được (Docker docs: Port publishing). Với dịch vụ chỉ cần reverse proxy trên cùng máy gọi tới (database, Redis, ứng dụng nội bộ), hãy gắn vào localhost:
docker run -d -p 127.0.0.1:8080:80 nginx
Trong Docker Compose:
services:
app:
image: nginx:1.27
ports:
- "127.0.0.1:8080:80" # chỉ máy này truy cập được
redis:
image: redis:7
# không khai báo ports: chỉ các service cùng network Compose gọi được
Cùng tài liệu đó lưu ý ở các bản Docker Engine trước 28.0.0, máy khác trong cùng phân đoạn mạng L2 vẫn có thể gọi tới cổng đã gắn localhost. Đây là thêm một lý do để cập nhật Docker và để server nằm trong mạng riêng.
7. Cổng Kubernetes chỉ mở trong mạng nội bộ
Theo trang Ports and Protocols của Kubernetes, control plane dùng các cổng sau:
| Cổng | Thành phần | Ai cần gọi tới |
|---|---|---|
| 6443/TCP | Kubernetes API server | Các node, người quản trị (qua VPN hoặc IP cố định) |
| 2379-2380/TCP | etcd | Chỉ API server và các etcd khác |
| 10250/TCP | Kubelet API | Control plane |
| 10259/TCP | kube-scheduler | Chính máy đó |
| 10257/TCP | kube-controller-manager | Chính máy đó |
Không cổng nào trong bảng cần mở ra Internet. etcd chứa toàn bộ trạng thái cụm, kể cả Secret, nên lộ etcd gần như là lộ cả cụm. Kubelet API cho phép đọc log và chạy lệnh trong Pod, nên chỉ control plane được gọi tới. Nếu dùng Service kiểu NodePort (mặc định dải 30000-32767), chỉ mở dải này cho load balancer phía trước chứ không mở cho mọi IP.
Ví dụ luật ufw cho node control plane, giả sử mạng nội bộ của cụm là 10.20.0.0/24:
sudo ufw allow from 10.20.0.0/24 to any port 6443 proto tcp
sudo ufw allow from 10.20.0.0/24 to any port 2379:2380 proto tcp
sudo ufw allow from 10.20.0.0/24 to any port 10250 proto tcp
8. Đặt server trong mạng riêng, chỉ một cửa ra Internet
Cách gọn nhất để các cổng nội bộ không bị lộ là không gắn IP public cho chúng ngay từ đầu. Đặt các node trong một mạng riêng (VPC), chỉ load balancer hoặc một máy bastion có IP public. Người quản trị SSH vào bastion trước, rồi từ đó vào các node:
ssh -J deploy@<IP-bastion> deploy@10.20.0.11
Khi đó tường lửa trên từng node là lớp bảo vệ thứ hai, không phải lớp duy nhất. Nếu một luật ufw bị viết sai, server vẫn không lộ ra Internet.
Gói checklist thành file cloud-init YAML
Làm tay từng mục trên mỗi server mới vừa chậm vừa dễ sót. Cloud-init là công cụ chạy lúc server khởi động lần đầu, đọc cấu hình dạng YAML do bạn cung cấp khi tạo máy (thường ở ô "user data" của nhà cung cấp cloud, nếu có hỗ trợ). File dưới đây áp dụng các mục 1 đến 5:
#cloud-config
# Áp dụng cho Ubuntu 22.04/24.04. Thay public key trước khi dùng.
users:
- name: deploy
groups: [sudo]
shell: /bin/bash
sudo: "ALL=(ALL) NOPASSWD:ALL"
ssh_authorized_keys:
- ssh-ed25519 AAAA...thay-bang-key-cua-ban deploy@laptop
disable_root: true
ssh_pwauth: false
package_update: true
package_upgrade: true
packages:
- ufw
- fail2ban
- unattended-upgrades
write_files:
- path: /etc/ssh/sshd_config.d/99-hardening.conf
content: |
PasswordAuthentication no
PermitRootLogin no
PubkeyAuthentication yes
runcmd:
- ufw default deny incoming
- ufw default allow outgoing
- ufw allow 22/tcp
- ufw --force enable
- systemctl enable --now fail2ban
- systemctl restart ssh
Sau khi server lên, đăng nhập bằng user deploy và kiểm tra:
sudo ufw status verbose
sudo sshd -T | grep -E "passwordauthentication|permitrootlogin"
sudo fail2ban-client status
cloud-init status --long
File này chưa mở cổng Kubernetes hay Docker, vì mỗi vai trò node (control plane, worker, node nhận traffic web) cần luật khác nhau. Bạn có thể tạo ba bản cloud-init cho ba vai trò, chỉ khác phần runcmd. Lưu ý: file trên được viết theo tài liệu cloud-init và các lệnh chuẩn của Ubuntu, nhưng chưa chạy thử trên mọi nhà cung cấp; hãy thử trên một server test trước khi dùng cho production.
Lỗi thường gặp khi làm checklist bảo mật Cloud Server
Các tình huống dưới đây là ví dụ minh hoạ tổng hợp từ lỗi phổ biến, không phải sự cố cụ thể có số liệu.
| Triệu chứng | Nguyên nhân | Cách xử lý |
|---|---|---|
| Bật ufw xong mất kết nối SSH | Chưa ufw allow 22/tcp trước khi ufw enable |
Dùng console của nhà cung cấp cloud để vào lại, thêm luật SSH |
| Tắt mật khẩu xong không vào được máy | Key chưa được thêm đúng user, hoặc sai quyền thư mục ~/.ssh |
Luôn mở phiên SSH thứ hai bằng key trước khi đóng phiên cũ; ~/.ssh quyền 700, authorized_keys quyền 600 |
| ufw báo cổng đóng nhưng container vẫn truy cập được từ ngoài | Docker tự thêm luật iptables, đi vòng qua ufw | Publish vào 127.0.0.1, hoặc bỏ ports: cho dịch vụ nội bộ |
Node Kubernetes NotReady sau khi bật tường lửa |
Chặn mất cổng 10250 hoặc cổng của plugin mạng (CNI) | Mở các cổng theo tài liệu Kubernetes và tài liệu của CNI đang dùng, chỉ cho dải mạng nội bộ |
| Cụm bị đào coin dù đã đặt mật khẩu mạnh | etcd hoặc kubelet mở ra Internet | Chuyển node vào mạng riêng, chỉ mở các cổng nội bộ cho dải IP của cụm |
| Bản vá tự động làm node khởi động lại giữa giờ | Bật tự reboot trong unattended-upgrades | Tắt tự reboot trên node, drain rồi reboot theo lịch |
Áp dụng trên Bizfly Cloud
Mục 8 (đặt server trong mạng riêng) là phần phụ thuộc nhiều nhất vào nhà cung cấp hạ tầng. Theo trang sản phẩm Bizfly Cloud Server, mỗi khách hàng được cô lập network bằng VPC, giúp tăng bảo mật và chống truy cập trái phép. Với ứng dụng web chạy sau Ingress, lớp Bizfly Cloud WAF có tập luật dựng sẵn theo OWASP Top 10, chống DDoS tầng ứng dụng và cho phép tự tạo luật. Các mục còn lại trong checklist (SSH, ufw, Docker, cổng Kubernetes) vẫn là phần bạn tự cấu hình trên từng server.
Checklist tính năng cần đối chiếu khi triển khai
- [ ] Các node nằm trong cùng mạng VPC, chỉ load balancer hoặc bastion có IP public.
- [ ] Có cách vào máy khi lỡ khoá SSH (console trên dashboard).
- [ ] Hỗ trợ truyền user data / cloud-init khi tạo server (cần kiểm tra trên dashboard trước khi dựa vào).
- [ ] Ứng dụng web công khai đi qua WAF trước khi tới Ingress.
Câu hỏi thường gặp
Đổi cổng SSH sang số khác có giúp an toàn hơn không? Có giảm bớt lượng bot dò, nhưng không thay được việc dùng key và tắt mật khẩu. Hãy coi đổi cổng là phần phụ; các mục 1 đến 4 mới là phần chính.
Đã dùng tường lửa của nhà cung cấp cloud thì còn cần ufw không? Nên dùng cả hai. Tường lửa phía cloud chặn từ bên ngoài, còn ufw bảo vệ khi máy khác trong cùng mạng bị chiếm quyền. Hai lớp cũng giúp một luật viết sai ở lớp này chưa đủ để lộ dịch vụ.
Với Kubernetes được quản lý (managed), checklist này có cần không? Phần control plane (API server, etcd) do nhà cung cấp quản lý, nên các mục về cổng 2379-2380, 10257, 10259 không còn là việc của bạn. Các worker node vẫn là máy chạy workload của bạn, vì vậy vẫn nên kiểm tra quyền truy cập, cập nhật và các cổng NodePort.
Có cần chạy lại checklist định kỳ không?
Có. Mỗi lần cài thêm dịch vụ hoặc sửa Compose, hãy chạy lại ss -tulpn và ufw status để xem có cổng nào mới mở. Một buổi rà soát mỗi tháng thường đủ cho team nhỏ.
Kết luận
Checklist bảo mật Cloud Server cho máy chạy Docker và Kubernetes gồm hai lớp: kiểm soát ai vào được máy, và kiểm soát máy nghe ở cổng nào. Hai điểm dễ sai nhất là cổng Docker publish đi vòng qua ufw và cổng Kubernetes nội bộ bị mở ra Internet. Việc nên làm ngay là chạy ss -tulpn trên server đang có, đối chiếu với 8 mục trên, rồi đưa phần cấu hình chung vào cloud-init để server mới đạt chuẩn từ lúc tạo. Bài tiếp theo trong series Kubernetes từ A đến Z sẽ nói về Namespace, cách chia cụm theo team và môi trường.
All rights reserved