容器与云原生 / 系统课时
选择负载均衡策略
选择负载均衡策略
负载均衡策略决定同一服务的多个健康端点如何接收请求。选择时不能只看“是否平均”,还要考虑请求处理时长、端点能力差异,以及是否需要软会话黏性。本节比较常用策略,并用请求头一致性哈希完成配置、Envoy 数据面检查和实际流量验证。
学习目标
- 区分轮询、随机、最少请求与一致性哈希的适用场景
- 根据请求特征选择负载均衡策略,而不是机械追求平均分配
- 配置基于请求头的一致性哈希,并从 Sidecar 的 Envoy 配置与请求结果验证策略
先按流量特征选策略
DestinationRule 的 trafficPolicy.loadBalancer 控制发往目标服务的负载均衡方式。普通无状态服务通常优先选择能适应请求处理时长差异的策略;只有业务确实需要“相同键尽量落到相同端点”时,才应引入一致性哈希。
| 策略 | 分配依据 | 适合场景 | 主要边界 |
|---|---|---|---|
LEAST_REQUEST |
倾向当前未完成请求较少的端点 | 请求耗时差异明显的无状态服务 | 不能提供会话黏性 |
ROUND_ROBIN |
按端点轮换 | 端点能力和请求成本较均匀、希望行为简单可预测 | 慢请求可能让部分端点积压 |
RANDOM |
随机选择健康端点 | 大量近似同质端点、希望策略简单 | 小样本下分布不一定均匀 |
一致性哈希(consistentHash) |
对稳定请求键做哈希 | 缓存亲和、软会话黏性 | 端点增删会让部分键重新映射 |

配置软会话黏性
假设 orders 服务希望同一用户在端点集合稳定时尽量命中同一实例,可以让客户端发送稳定请求头 x-user-id,并把它作为一致性哈希键。下面创建对应的 DestinationRule。
kubectl apply -n mesh-demo -f - <<'EOF'
apiVersion: networking.istio.io/v1
kind: DestinationRule
metadata:
name: orders-lb
spec:
host: orders.mesh-demo.svc.cluster.local
trafficPolicy:
loadBalancer:
consistentHash:
httpHeaderName: x-user-id
EOF预期输出
destinationrule.networking.istio.io/orders-lb created如果资源已存在,输出可能是 configured 或 unchanged。此配置不会让服务端保存 Istio 会话状态;发起请求的代理会用 x-user-id 生成哈希结果,再从当前健康端点集合中选择目标。
从 Envoy 数据面确认配置
kubectl get destinationrule 只能证明 Kubernetes 中存在期望配置,不能证明发起请求的 Sidecar 已经接收并使用它。下面直接读取 client Pod 的 Envoy 集群、路由和端点配置;假设 client Deployment 带有 app=client 标签并已注入 Sidecar。
POD=$(kubectl get pod -n mesh-demo -l app=client \
-o jsonpath='{.items[0].metadata.name}')
echo "client pod: $POD"
istioctl proxy-config cluster "$POD" -n mesh-demo \
--fqdn orders.mesh-demo.svc.cluster.local -o json \
| jq -r '.[].lbPolicy' \
| sort -u
istioctl proxy-config route "$POD" -n mesh-demo -o json \
| jq -r '.. | objects | select(has("hashPolicy")) | .hashPolicy[]? | .header?.headerName // empty' \
| sort -u
istioctl proxy-config endpoint "$POD" -n mesh-demo \
--cluster 'outbound|8080||orders.mesh-demo.svc.cluster.local'预期输出
client pod: client-<ID>
RING_HASH
x-user-id
ENDPOINT STATUS OUTLIER CHECK CLUSTER
<IP>:8080 HEALTHY OK outbound|8080||orders.mesh-demo.svc.cluster.local
<IP>:8080 HEALTHY OK outbound|8080||orders.mesh-demo.svc.cluster.local<ID> 和 <IP> 会随环境变化。看到 RING_HASH 与 x-user-id,说明该 Sidecar 的 Envoy 已获得一致性哈希集群和请求头哈希策略;端点列表则记录了测试时实际参与选择的健康实例。若这里缺少对应配置,应先检查 Sidecar 注入、DestinationRule.host 是否匹配,以及配置是否已传播到该代理,而不是直接用请求结果猜测原因。
验证实际分配并排除端点变化
如果 orders 提供返回当前实例标识的 /whoami 接口,可以从同一个网格内调用方连续发送相同的 x-user-id。先记录 Envoy 当前端点集合,再发送请求;若结果发生变化,应重新检查端点列表,区分“配置未下发”和“端点集合已经变化”。
echo 'endpoints before test:'
istioctl proxy-config endpoint "$POD" -n mesh-demo \
--cluster 'outbound|8080||orders.mesh-demo.svc.cluster.local'
echo 'requests:'
for i in 1 2 3 4 5; do
kubectl exec -n mesh-demo deploy/client -- \
curl -s -H 'x-user-id: user-42' http://orders:8080/whoami
echo
done预期输出
endpoints before test:
ENDPOINT STATUS OUTLIER CHECK CLUSTER
<IP>:8080 HEALTHY OK outbound|8080||orders.mesh-demo.svc.cluster.local
<IP>:8080 HEALTHY OK outbound|8080||orders.mesh-demo.svc.cluster.local
requests:
orders-<ID>
orders-<ID>
orders-<ID>
orders-<ID>
orders-<ID>在端点集合不变、请求经过同一 Sidecar 且始终携带相同哈希键时,请求应表现出稳定黏性;改用其他 x-user-id 后可能映射到另一端点。配置检查用于确认策略确实进入 Envoy,端点快照用于解释映射变化,请求测试才用于验证最终流量行为,三者缺一都可能导致误判。
什么时候不要用一致性哈希
如果业务只是无状态 API,没有缓存亲和或会话黏性需求,一致性哈希通常只会增加理解和运维成本。对处理时间差异较大的请求,LEAST_REQUEST 更贴近“把新请求交给当前更空闲的端点”的目标;请求成本高度一致时,轮询或随机也能保持配置简单。
一致性哈希还依赖调用方代理看到相近且相对稳定的端点集合。多地域、局部端点可见性或频繁扩缩容都会削弱黏性,因此不要把它当作数据库会话、购物车状态或登录状态的持久化机制。负载均衡负责选择实例,业务状态可靠性仍应由应用架构保证。