NGINX Service Mesh

Mở đầu

Ngày nay cùng với sự phát triển không ngừng của phần mềm, sự ra đời của Cloud, SASS, BigData việc phát triển ứng dụng dựa trên kiến trúc micorservice ngày càng được quan tâm nhiều hơn. Để quản lý và phát triển các microservice được dễ dàng hơn, một ứng dụng không thể thiếu đó là Kubernetes và NGINX Service Mesh.

What NGINX Service Mesh

NGINX Service Mesh (NSM) là một tập hợp đầy đủ các service để quản lý luồng xử lý, giao tiếp của các micorservice trên môi trường Kubernetes và được cung cấp bới Nginx Plus. NSM hiện đang cung cấp miễn phí và download tại đây.

Benefit NSM

Việc áp dụng microservices vào dự án đi kèm với những thách thức khi việc triển khai và mở rộng trở nên phức tạp hơn. Giao tiếp giữa các dịch vụ rất phức tạp, việc gỡ lỗi cũng khó hơn và nhiều dịch vụ hơn đồng nghĩa với việc quản lý nhiều tài nguyên hơn.

NSM giải quyết tất cả các vấn đề trên bằng cách giải quyết các vấn đề sau:

Security - Bảo mật luôn là vấn đề quan trọng nhất. Việc dữ liệu bị mất mát có thể làm cho các tổ chụcw thiệt hại hàng triệu đô doanh thu mỗi năm cùng với đó danh tiếng và lượng khách hàng. NSM đảm bảo tất các dữ liệu đều được mã hóa mTLS (1 dạng mã hóa với độ bảo mật rất cao) để đảm bảo dữ liệu nhạy cảm không bị tin tặc đánh cắp. "Access control" cho phép bạn đặt ra các policies cho các service được phép giao tiếp với nhau.
Traffic management - Khi bạn deploy một tính năng mới, ban đầu có thể bạn sẽ muốn giới hạn dung lượng mà hệ thống của mình nhận được. NSM cung cấp tính năng cho bạn có thể config limit traffic và có thể tăng dần traffic theo thời gian. Bên cạnh đó NSM còn cung cấp chức năng giới hạn tốc độ, ngắt kết nối từng đương truyền
Visualization - Thử hình dung khi bạn phải quản lý hàng nghìn service đó thật là một cơn ác mộng để quản lý và debug. NSM cung cấp 1 bảng hiển thị Grafana có đầy đủ dữ liệu mà bạn mong muốn (cả tổng quan lẫn chi tiết đến từng service)
Hybrid deployments - Nếu các service của hệ thống bạn không phải chỉ có trên Kubernetes mà còn ở bên ngoài. NSM cung cấp 1 tính năng là NGINX Ingress Controller để đảm bảo các mesh service (trong Kubernetes) có thể giao tiếp với các service bên ngoài và ngược lại

NSM Architecture

Kiến trúc của hệ thống NSM sẽ được mô tả như sau

Về cơ bản NSM sẽ gồm các thành phần cơ bản sau:

Grafana – Trực quan hóa Prometheus metrics - bảng điều khiển NSM
Kubernetes Ingress controller - Quản lý traffic vào và ra
PIRE - Quản lý các quyền và đảm bảo quyền cho mesh
NATS – Nơi quản lý các message của hệ thống mesh
Open Tracing – Hệ thống ghi log phân tán (Zipkin and Jaeger)
Prometheus – Thu thập và lưu trữ các metrics từ Nginx plus như số lượng request, kết nối v..v...

Features and Components

Mutual TLS (mTLS) authentication
Load balancing
High availability
Limiting
Ngắt kết nối
Blue‑green and canary deployments (B/G deploy và canary deploy - deploy từng phần

Getting Started with NSM

Truy câp hệ thống có cài mội trường Kubernetes (Amazon Elastic Container Service for Kubernetes (EKS), the Azure Kubernetes Service (AKS), Google Kubernetes Engine (GKE), VMware vSpher)
Cài đặt kubectl commands trên máy đã cái NSM
Truy cập vào hệ thống NSM, các pacakge bao gốm NSM image phải được đẩy vào các private cointainer mà Kubernetes có thể truy cập
Deploy NSM

$ DOCKER_REGISTRY=your-Docker-registry ; MESH_VER=0.6.0 ; \
 ./nginx-meshctl deploy  \
  --nginx-mesh-api-image "${DOCKER_REGISTRY}/nginx-mesh-api:${MESH_VER}" \
  --nginx-mesh-sidecar-image "${DOCKER_REGISTRY}/nginx-mesh-sidecar:${MESH_VER}" \
  --nginx-mesh-init-image "${DOCKER_REGISTRY}/nginx-mesh-init:${MESH_VER}" \
  --nginx-mesh-metrics-image "${DOCKER_REGISTRY}/nginx-mesh-metrics:${MESH_VER}"
Created namespace "nginx-mesh".
Created SpiffeID CRD.
Waiting for Spire pods to be running...done.
Deployed Spire.
Deployed NATS server.
Created traffic policy CRDs.
Deployed Mesh API.
Deployed Metrics API Server.
Deployed Prometheus Server nginx-mesh/prometheus-server.
Deployed Grafana nginx-mesh/grafana.
Deployed tracing server nginx-mesh/zipkin.
All resources created. Testing the connection to the Service Mesh API Server...
 
Connected to the NGINX Service Mesh API successfully.
NGINX Service Mesh is running.

Verify xem các thành phần của NSM đã được chạy chưa

$ kubectl get pods –n nginx-mesh
NAME                                 READY   STATUS    RESTARTS   AGE
grafana-6cc6958cd9-dccj6             1/1     Running   0          2d19h
mesh-api-6b95576c46-8npkb            1/1     Running   0          2d19h
nats-server-6d5c57f894-225qn         1/1     Running   0          2d19h
prometheus-server-65c95b788b-zkt95   1/1     Running   0          2d19h
smi-metrics-5986dfb8d5-q6gfj         1/1     Running   0          2d19h
spire-agent-5cf87                    1/1     Running   0          2d19h
spire-agent-rr2tt                    1/1     Running   0          2d19h
spire-agent-vwjbv                    1/1     Running   0          2d19h
spire-server-0                       2/2     Running   0          2d19h
zipkin-6f7cbf5467-ns6wc              1/1     Running   0          2d19h

Ví dụ chúng ta đã chạy ứng dụng test, để kiểm tra xem ứng dụng test đang chạy trên cointaner nào

$ kubectl apply –f test.yaml
$ kubectl get pods –n default
NAME                     READY   STATUS    RESTARTS   AGE
test-674f75ff4d-gxjf2   2/2     Running   0          5h23m

Ta cũng có thể monitor ứng dụng test bằng cách gõ command

kubectl port-forward test-674f75ff4d-gxjf2 8080:8886

Sau đó truy cập http://localhost:8080/dashboard.html để kiểm tra ứng dụng test

Summary

Bên cạnh NGINX Service Mesh còn nhiều công cụ khác để quản lý, theo dõi và debug các microservices nhưng đa số chúng đều mất phí. NSM hiện đang miễn phí download, mình nghĩ các bạn nên thử để cho công việc được dễ dàng và thuận tiện hơn

nginx