Phần 10: Load Balancing
Global traffic steering
Policy để steering traffic ( lái lưu lượng ) để Load Balancer quyết định route traffic đến các Pool healthy và attached ( được liên kết ).
Standard : OFF - Failover and Random
Đây là những chính sách duy nhất có sẵn cho khách hàng không thuộc gói Enterprise hoặc chưa mua Traffic Steering.
Off - Failover:
Chuyển lưu lượng đến pool tiếp theo khi pool chính bị lỗi.
Dùng trong Active-Passive Failover (Primary & Standby Pool).
Nếu tất cả pools đều lỗi, Load Balancer sẽ dùng fallback pool.
Failback: Khi pool chính hoạt động lại, lưu lượng sẽ tự động chuyển về pool chính.
Random Steering:
Phân phối lưu lượng ngẫu nhiên giữa các pools đang hoạt động.
Dùng cho Active-Active Load Balancing (Round Robin).
Có thể cấu hình Weight để kiểm soát tỷ lệ lưu lượng đến từng pool.
Geo Steering
Geo Steering giúp điều hướng lưu lượng theo quốc gia, khu vực, hoặc trung tâm dữ liệu (PoP - chỉ dành cho Enterprise) để tối ưu hiệu suất tải trang.
Region Steering
Định tuyến theo 13 khu vực địa lý của Cloudflare.
Country Steering
Định tuyến theo quốc gia của người dùng.
PoP Steering (Chỉ Enterprise)
Định tuyến theo trung tâm dữ liệu Cloudflare (PoP).
Dynamic Steering
Chọn pool nhanh nhất dựa trên thời gian phản hồi (Round Trip Time) của từng khu vực.RTT được cập nhật liên tục từ Health Monitor probes.
Nếu không có dữ liệu RTT, Cloudflare sẽ dùng thứ tự failover mặc định.
Mất 10 phút để Cloudflare thu thập dữ liệu RTT khi bật lần đầu.
Độ trễ của TCP Health Monitor có thể không chính xác nếu TCP bị chấm dứt tại nhà cung cấp cloud.
Proximity
Proximity Steering trong Cloudflare Load Balancer giúp điều hướng lưu lượng đến trung tâm dữ liệu gần nhất dựa trên tọa độ GPS của các pool.
Lưu ý: Tất cả các pool trong cùng Load Balancer phải có tọa độ GPS để định tuyến chính xác.
Least Outstanding Requests
Điều phối lưu lượng truy cập đến pool có số lượng request đang xử lý ít nhất, nhằm tránh quá tải.
Nguyên tắc hoạt động:
Hệ thống sẽ đo số lượng in-flight requests (request chưa hoàn thành) ở từng pool.
Pool nào có ít request chưa hoàn thành nhất sẽ được ưu tiên nhận thêm traffic.
Hệ thống cũng cân nhắc random_steering weights (trọng số điều hướng ngẫu nhiên) để đảm bảo sự phân bổ hợp lý.
Khi nào nên dùng Least Outstanding Requests Steering?
Hệ thống dễ bị quá tải do số lượng request đồng thời cao.
Cần tối ưu sức khỏe server hơn là tối ưu độ trễ hoặc vị trí địa lý.
Ứng dụng yêu cầu cân bằng tải động dựa trên trạng thái hiện tại của từng pool.
Local traffic steering
Policy của Pool để quyết định đến Endpoint trong Pool đó. Hầu như dựa vào trọng số Weight để quyết định request đến Endpoint.
Weights
Nếu giữ nguyên cài đặt mặc định và chọn Random endpoint steering policy thì tất cả endpoint đều có Weight bằng nhau. ( các request sẽ phân bố đến các endpoint là bằng nhau )
Nếu chọn Hash thì trọng số sẽ thay đổi dựa theo địa chỉ IP phân bố ( các request từ một địa chỉ IP nhất định luôn được gửi đến cùng một endpoint)
Customize weights
tổng là 1 = 100%. Có thể tự đặt trọng số Weight cho mỗi endpoint để quyết định lưu lượng request phấn bố các endpoint.
Least Outstanding Requests
Chính sách điều hướng Least Outstanding Requests cho phép bạn định tuyến lưu lượng truy cập đến các endpoint hiện có số lượng yêu cầu chưa hoàn thành ít nhất.
Cách hoạt động:
Chính sách này chọn một endpoint bằng cách cân nhắc giữa trọng số của endpoint và số lượng yêu cầu đang xử lý (in-flight requests).
Các endpoint có nhiều yêu cầu đang chờ xử lý hơn sẽ được ưu tiên ít hơn so với các endpoint khác.
Khi nào nên sử dụng?
Khi các endpoint dễ bị quá tải bởi các đợt yêu cầu đồng thời lớn.
Hỗ trợ định tuyến thích ứng (adaptive routing) và kết nối phiên (session affinity) để tối ưu hiệu suất.
Last updated