容器与云原生 / 系统课时

选择负载均衡策略

选择负载均衡策略

负载均衡策略决定同一服务的多个健康端点如何接收请求。选择时不能只看“是否平均”,还要考虑请求处理时长、端点能力差异,以及是否需要软会话黏性。本节比较常用策略,并用请求头一致性哈希完成配置、Envoy 数据面检查和实际流量验证。

学习目标

  • 区分轮询、随机、最少请求与一致性哈希的适用场景
  • 根据请求特征选择负载均衡策略,而不是机械追求平均分配
  • 配置基于请求头的一致性哈希,并从 Sidecar 的 Envoy 配置与请求结果验证策略

先按流量特征选策略

DestinationRule 的 trafficPolicy.loadBalancer 控制发往目标服务的负载均衡方式。普通无状态服务通常优先选择能适应请求处理时长差异的策略;只有业务确实需要“相同键尽量落到相同端点”时,才应引入一致性哈希。

策略 分配依据 适合场景 主要边界
LEAST_REQUEST 倾向当前未完成请求较少的端点 请求耗时差异明显的无状态服务 不能提供会话黏性
ROUND_ROBIN 按端点轮换 端点能力和请求成本较均匀、希望行为简单可预测 慢请求可能让部分端点积压
RANDOM 随机选择健康端点 大量近似同质端点、希望策略简单 小样本下分布不一定均匀
一致性哈希(consistentHash) 对稳定请求键做哈希 缓存亲和、软会话黏性 端点增删会让部分键重新映射

负载均衡策略选择关系图

配置软会话黏性

假设 orders 服务希望同一用户在端点集合稳定时尽量命中同一实例,可以让客户端发送稳定请求头 x-user-id,并把它作为一致性哈希键。下面创建对应的 DestinationRule。

bash
kubectl apply -n mesh-demo -f - <<'EOF'
apiVersion: networking.istio.io/v1
kind: DestinationRule
metadata:
  name: orders-lb
spec:
  host: orders.mesh-demo.svc.cluster.local
  trafficPolicy:
    loadBalancer:
      consistentHash:
        httpHeaderName: x-user-id
EOF

预期输出

text
destinationrule.networking.istio.io/orders-lb created

如果资源已存在,输出可能是 configured 或 unchanged。此配置不会让服务端保存 Istio 会话状态;发起请求的代理会用 x-user-id 生成哈希结果,再从当前健康端点集合中选择目标。

从 Envoy 数据面确认配置

kubectl get destinationrule 只能证明 Kubernetes 中存在期望配置,不能证明发起请求的 Sidecar 已经接收并使用它。下面直接读取 client Pod 的 Envoy 集群、路由和端点配置;假设 client Deployment 带有 app=client 标签并已注入 Sidecar。

bash
POD=$(kubectl get pod -n mesh-demo -l app=client \
  -o jsonpath='{.items[0].metadata.name}')

echo "client pod: $POD"

istioctl proxy-config cluster "$POD" -n mesh-demo \
  --fqdn orders.mesh-demo.svc.cluster.local -o json \
  | jq -r '.[].lbPolicy' \
  | sort -u

istioctl proxy-config route "$POD" -n mesh-demo -o json \
  | jq -r '.. | objects | select(has("hashPolicy")) | .hashPolicy[]? | .header?.headerName // empty' \
  | sort -u

istioctl proxy-config endpoint "$POD" -n mesh-demo \
  --cluster 'outbound|8080||orders.mesh-demo.svc.cluster.local'

预期输出

text
client pod: client-<ID>
RING_HASH
x-user-id
ENDPOINT         STATUS      OUTLIER CHECK     CLUSTER
<IP>:8080        HEALTHY     OK                outbound|8080||orders.mesh-demo.svc.cluster.local
<IP>:8080        HEALTHY     OK                outbound|8080||orders.mesh-demo.svc.cluster.local

<ID> 和 <IP> 会随环境变化。看到 RING_HASH 与 x-user-id,说明该 Sidecar 的 Envoy 已获得一致性哈希集群和请求头哈希策略;端点列表则记录了测试时实际参与选择的健康实例。若这里缺少对应配置,应先检查 Sidecar 注入、DestinationRule.host 是否匹配,以及配置是否已传播到该代理,而不是直接用请求结果猜测原因。

验证实际分配并排除端点变化

如果 orders 提供返回当前实例标识的 /whoami 接口,可以从同一个网格内调用方连续发送相同的 x-user-id。先记录 Envoy 当前端点集合,再发送请求;若结果发生变化,应重新检查端点列表,区分“配置未下发”和“端点集合已经变化”。

bash
echo 'endpoints before test:'
istioctl proxy-config endpoint "$POD" -n mesh-demo \
  --cluster 'outbound|8080||orders.mesh-demo.svc.cluster.local'

echo 'requests:'
for i in 1 2 3 4 5; do
  kubectl exec -n mesh-demo deploy/client -- \
    curl -s -H 'x-user-id: user-42' http://orders:8080/whoami
  echo
done

预期输出

text
endpoints before test:
ENDPOINT         STATUS      OUTLIER CHECK     CLUSTER
<IP>:8080        HEALTHY     OK                outbound|8080||orders.mesh-demo.svc.cluster.local
<IP>:8080        HEALTHY     OK                outbound|8080||orders.mesh-demo.svc.cluster.local
requests:
orders-<ID>
orders-<ID>
orders-<ID>
orders-<ID>
orders-<ID>

在端点集合不变、请求经过同一 Sidecar 且始终携带相同哈希键时,请求应表现出稳定黏性;改用其他 x-user-id 后可能映射到另一端点。配置检查用于确认策略确实进入 Envoy,端点快照用于解释映射变化,请求测试才用于验证最终流量行为,三者缺一都可能导致误判。

什么时候不要用一致性哈希

如果业务只是无状态 API,没有缓存亲和或会话黏性需求,一致性哈希通常只会增加理解和运维成本。对处理时间差异较大的请求,LEAST_REQUEST 更贴近“把新请求交给当前更空闲的端点”的目标;请求成本高度一致时,轮询或随机也能保持配置简单。

一致性哈希还依赖调用方代理看到相近且相对稳定的端点集合。多地域、局部端点可见性或频繁扩缩容都会削弱黏性,因此不要把它当作数据库会话、购物车状态或登录状态的持久化机制。负载均衡负责选择实例,业务状态可靠性仍应由应用架构保证。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

选择负载均衡策略

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通