核心指標:可用性、擴展性、一致性、可觀測性
Web 應用叢集將流量分散至多節點,對外呈現單一入口。關鍵 KPI:
• 高可用性 (HA):節點故障秒級切換、使用者無感。
• 擴展性:水平擴容線性提升吞吐。
• 會話一致性:同一用戶後續請求導向同節點(或共享會話存儲)。
• 可觀測性:即時統計連線數、QPS、延遲、錯誤率、熱點節點。
方案一:DNS Round Robin (RR-DNS)
運作機制
單一 FQDN 對應多筆 A 記錄,DNS 依序回傳不同 IP。客戶端快取 TTL 期間重複使用同一 IP。
優點
- 零成本、零硬體、DNS 記錄修改即生效。
- 應用層完全無感,無需改代碼。
致命缺點
- 無健康檢查:節點掛掉 DNS 仍解析其 IP,導致部分用戶無法存取,直到 TTL 過期並重新查詢(ISP 還會再快取)。
- 會話不一致:TTL 過期後再次查詢可能解析到不同節點,若會話存儲在本機(In-Memory/檔案),使用者被踢出登入。
- 負載不均:依賴客戶端快取行為,熱門節點可能承受過載。
- 無法處理 HTTPS 會話親和性:加密流量無法在 DNS 層檢視 Cookie/Session ID。
進階 DNS 演算法
- Weighted Round Robin (WRR):依節點效能給權重。
- Least Connections (LC):導向連線數最少節點(需 DNS 支援動態 API 更新)。
- GeoDNS / GSLB:依用戶地理位置解析就近節點(Cloudflare、AWS Route 53、Akamai、DNSPod 企業版)。
方案二:傳統負載平衡器 (Hardware / Software LB)
架構模型
虛擬 IP (VIP) 綁定叢集,LB 終結客戶端連線 → 依演算法選後端 Real Server (RS) → 建立新連線至 RS → 回覆給客戶端。客戶端僅見 VIP。
核心優勢
- 健康檢查:L4 (TCP SYN/ACK)、L7 (HTTP GET /healthz、特定關鍵字)、自訂腳本。節點異常自動摘除。
- 會話持久性:Source IP Hash、Cookie Insert、SSL Session ID、一致性 Hash。支援透明會話故障轉移(需共享會話存儲:Redis Cluster、DB、共享檔案系統)。
- SSL Offloading:LB 終結 TLS,後端走 HTTP,減輕 RS CPU、集中管理憑證。
- 統計與可觀測:即時/歷史流量、連線分布、錯誤碼分布、頻寬使用率,支援 Prometheus/Grafana/Datadog 匯出。
- L7 進階功能:WAF、速率限制、內容路由 (Path/Host/Header)、重寫/重導向、快取、壓縮。
缺點與風險
- 單點故障 (SPOF):硬體 LB 需雙機熱備 (VRRP/HSRP/Keepalived);軟體 LB (NGINX/HAProxy/Envoy) 需叢集部署。
- 成本:硬體 LB (F5、A10、Radware) 單台百萬起;軟體 LB 需投入開發/運維人力。
- HTTPS 處理複雜:需載入憑證私鑰、支援 SNI、HTTP/2、TLS 1.3,效能壓力大。
方案三:現代雲原生 Service Mesh / Ingress Controller
- Kubernetes Ingress (NGINX/Traefik/Envoy) + Service (ClusterIP/LoadBalancer)。
- Sidecar Proxy (Istio/Linkerd) 實現 mTLS、細粒度流量治理、熔斷、重試、金絲雀發布。
- 雲廠商 Managed LB (ALB/NLB/CLB、Azure Front Door、GCP Cloud Armor) 全託管、自動擴縮、整合 WAF/DDoS 防護。
選型決策矩陣
| 場景 | 推薦方案 | 關鍵理由 |
| 單機房、<5 節點、靜態內容、預算極低 | DNS RR + 應用層共享 Session (Redis) | 零成本、簡單;接受秒級故障轉移延遲 |
| 生產環境、需 SLA 99.9%、HTTPS、會話狀態 | 軟體 LB (NGINX Plus/HAProxy Enterprise) 雙機熱備 | 功能完整、成本可控、社群/商業支援並存 |
| 大型電商/金融、多機房/多雲、高合規 | 硬體 LB (F5/A10) + GSLB 或雲原生 Service Mesh | 極致效能、硬體級隔離、完整審計合規 |
| 微服務/K8s 原生 | Ingress Controller + Service Mesh | 聲明式配置、可觀測性內建、GitOps 流程 |
最佳實踐清單
- 後端節點無狀態化:Session 外移 Redis Cluster / 資料庫。
- 健康檢查端點
/healthz 檢查:DB 連線、下游服務、磁碟空間、記憶體。
- 優雅關機:收到 SIGTERM → 停止接新請求 → 處理中請求完成 → 關閉連線池 → 退出(預留 30–60 秒)。
- 啟用 Proxy Protocol v2 保留真實客戶端 IP 穿透 LB。
- 定期混沌工程演練:隨機 Kill 節點、斷網、CPU 壓測,驗證故障轉移 RTO/RPO。