容器与云原生 / 系统课时

配置多后端流量分配

配置多后端流量分配

多后端流量分配可以让同一条 HTTPRoute 按权重把请求送往稳定版和新版本 Service,是灰度发布与渐进式放量的基础。本课使用 Gateway API 的 backendRefs.weight 配置 80:20 分流,并从 Route 状态和真实请求两个层面验证结果。

学习目标

  • 使用 HTTPRoute 的多个 backendRefs 配置按权重分流
  • 正确理解权重是相对比例而不是固定百分比
  • 从 Route 状态和真实请求两个层面验证流量分配

理解权重计算方式

一个 HTTPRoute 规则可以引用多个后端,并为每个后端设置 weight。控制器按照各后端权重占总权重的比例选择目标,因此 80 和 20 表示约 80% 与 20%,8 和 2 也表达相同的比例关系。

若两个后端权重分别为 w1w_1 和 w2w_2,第一个后端的目标比例为 w1/(w1+w2)w_1/(w_1+w_2)。这是长期请求分布目标,不表示每连续 10 个请求一定严格得到 8:2;样本越小,随机波动通常越明显。

HTTPRoute 按权重向稳定版与灰度版后端分配请求

配置 80:20 后端分流

开始前需要满足三个条件:集群已安装支持 Gateway API v1 的 Controller;目标 Gateway 已存在并提供 HTTP 或 HTTPS Listener;HTTPRoute 所在 Namespace 中已存在 app-stable 和 app-canary 两个 Service,且都通过端口 80 提供服务。为了方便验证,两个后端应分别返回 stable 与 canary。

下面的完整配置把命中 app.example.com 的请求按 80:20 分配到两个 Service:

yaml
apiVersion: gateway.networking.k8s.io/v1
kind: HTTPRoute
metadata:
  name: app-route
  namespace: edge
spec:
  parentRefs:
    - name: public-gateway
  hostnames:
    - app.example.com
  rules:
    - backendRefs:
        - name: app-stable
          port: 80
          weight: 80
        - name: app-canary
          port: 80
          weight: 20

weight 是相对权重,两个值不要求相加等于 100;使用 4 和 1 也会表达相同的 80:20 目标比例。将内容保存为 app-route.yaml 后应用:

bash
kubectl apply -f app-route.yaml

预期输出

text
httproute.gateway.networking.k8s.io/app-route created

首次创建时通常显示 created;再次应用时可能显示 configured 或 unchanged,具体取决于资源是否发生变化。

确认路由已被控制器接受

资源创建成功只说明 Kubernetes API Server 接受了对象,不代表 Gateway Controller 已经成功关联 Gateway 和两个 Service。先查看 HTTPRoute 的父级状态:

bash
kubectl get httproute app-route -n edge -o jsonpath='{range .status.parents[*].conditions[*]}{.type}={.status} {.reason}{"\n"}{end}'

预期结果应包含类似状态:

text
Accepted=True Accepted
ResolvedRefs=True ResolvedRefs

Condition 的排列和附加状态可能因 Controller 而不同,但 Accepted=True 表示 Route 已被父 Gateway 接受,ResolvedRefs=True 表示后端引用能够被解析。如果引用失败,应先检查 Gateway、Service 名称、端口和 Namespace,再进行流量比例测试。

用真实请求验证分配

假设 Gateway 已经可以通过 https://app.example.com 访问,并且两个后端的响应体分别为 stable 和 canary。下面发送 100 次独立请求,每次在响应后补一个换行,再按响应内容汇总计数:

bash
for i in {1..100}; do
  curl -fsS https://app.example.com
  printf '\n'
done | sort | uniq -c

预期输出会接近下面的比例,但不要求每次都精确等于 80 和 20:

text
     <VALUE> canary
     <VALUE> stable

正常情况下,stable 的计数应明显接近总请求数的 80%,canary 接近 20%。<VALUE> 是实际采样结果,会受到随机波动、Controller 实现和后端可用状态影响。这个循环每次启动独立的 curl 进程,也能减少客户端长连接复用对采样的干扰。

如果采样结果长期明显偏离目标比例,应先确认两个 Service 都有可用 Endpoint,并排除后端错误或 Controller 状态异常,再扩大请求样本重新测试。一次 77:23 或 84:16 的结果本身不足以证明权重配置错误。

调整权重时控制风险

灰度放量通常不直接从 100:0 跳到 50:50,而是逐步修改同一条 Route,例如先 95:5,再 80:20,最后根据观测结果继续放量。每次调整后都应观察错误率、延迟和业务指标,再决定是否增加新版本流量。

当后端存在明显容量差异时,权重也不应只按发布阶段设置。最终比例需要同时考虑实例数量、单实例吞吐能力和业务风险;HTTPRoute 的权重负责表达流量意图,后端健康检查与容量治理仍需由部署和可观测体系共同保证。

按自己的节奏,确认真正理解。

目录与阅读设置

记录一个想法

配置多后端流量分配

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通