容器与云原生 / 系统课时

配置 Pod 反亲和高可用

配置 Pod 反亲和高可用

多副本应用只有真正分散到不同故障域,才能降低单节点或单可用区故障同时带走多个副本的概率。本篇用 Pod 反亲和控制副本分布,并重点处理严格反亲和导致拓扑容量不足、Pod 长时间处于 Pending 的风险。

学习目标

  • 为 Deployment 配置节点级或可用区级 Pod 反亲和
  • 验证多个副本是否按照目标拓扑分散
  • 判断严格反亲和导致 Pending 的容量风险,并选择合适的软约束

先确定要防哪一级故障

反亲和能防住哪一级故障,取决于 topologyKey。避免单节点故障同时影响多个副本,可以使用 kubernetes.io/hostname;需要跨可用区分散时,则使用集群中真实存在并正确维护的 topology.kubernetes.io/zone。

以 3 副本 Web 服务为例,如果使用节点级硬反亲和,就至少需要 3 个同时满足资源请求、污点容忍、节点亲和等其他硬条件的不同节点。只有 2 个合格节点时,第三个副本不会自动退化为同节点部署,而会保持 Pending。同理,使用可用区级硬反亲和时,需要足够数量的合格可用区。

严格 Pod 反亲和的副本分散与容量风险

用硬反亲和保证节点级分散

下面的 Deployment 要求所有 app=web 副本不能与另一个匹配该标签的 Pod 落在同一个节点。labelSelector 必须能够选中 Deployment 创建出的 Pod,否则这些副本不会互相排斥;未显式指定命名空间范围时,规则默认匹配当前 Pod 所在命名空间中的 Pod。

yaml
apiVersion: apps/v1
kind: Deployment
metadata:
  name: web
spec:
  replicas: 3
  selector:
    matchLabels:
      app: web
  template:
    metadata:
      labels:
        app: web
    spec:
      affinity:
        podAntiAffinity:
          requiredDuringSchedulingIgnoredDuringExecution:
            - labelSelector:
                matchLabels:
                  app: web
              topologyKey: kubernetes.io/hostname
      containers:
        - name: web
          image: nginx:1.27
          ports:
            - containerPort: 80

将配置保存为 web.yaml 后创建工作负载并查看副本分布:

bash
kubectl apply -f web.yaml
kubectl rollout status deployment/web
kubectl get pods -l app=web -o wide

预期结果

text
deployment "web" successfully rolled out
NAME             READY   STATUS    RESTARTS   AGE      IP     NODE
web-<ID>-<ID>    1/1     Running   0          <TIME>   <IP>   <NODE-A>
web-<ID>-<ID>    1/1     Running   0          <TIME>   <IP>   <NODE-B>
web-<ID>-<ID>    1/1     Running   0          <TIME>   <IP>   <NODE-C>

Pod 名称、时间和 IP 会因环境不同而变化,验收重点是三个副本是否出现在不同的 NODE。如果目标是跨可用区分散,应把 topologyKey 改为 topology.kubernetes.io/zone,并先确认候选节点都具有正确的 zone 标签。

定位严格反亲和造成的 Pending

硬反亲和会与资源请求、污点容忍、节点亲和等所有硬调度条件共同生效。即使集群节点很多,只要最终满足全部条件的拓扑域数量不足,仍会有副本无法调度。

当 Deployment 长时间达不到期望副本数时,先找出 Pending Pod,再查看调度事件:

bash
kubectl get pods -l app=web
kubectl describe pod <POD-NAME>

预期结果

text
NAME             READY   STATUS    RESTARTS   AGE
web-<ID>-<ID>    1/1     Running   0          <TIME>
web-<ID>-<ID>    1/1     Running   0          <TIME>
web-<ID>-<ID>    0/1     Pending   0          <TIME>

Warning  FailedScheduling  <TIME>  default-scheduler  0/<N> nodes are available: <REASONS>

节点数量和 <REASONS> 会随集群环境变化。如果事件同时出现资源不足、未容忍污点、节点亲和不匹配或 Pod 反亲和冲突,不要只修改反亲和规则。调度器要求节点通过全部硬过滤条件,应逐项确认是哪条约束耗尽了候选节点或拓扑域。

容量不能保证时改用 preferred

如果业务目标是“优先分散,但容量紧张时允许副本暂时集中”,可以把硬反亲和改为软反亲和。下面是 spec.template.spec.affinity.podAntiAffinity 下的片段示例,依赖前面 Deployment 的 app=web 标签:

yaml
preferredDuringSchedulingIgnoredDuringExecution:
  - weight: 100
    podAffinityTerm:
      labelSelector:
        matchLabels:
          app: web
      topologyKey: kubernetes.io/hostname

这是片段示例,需要放入前面 Pod 模板的 podAntiAffinity 中。weight: 100 会提高满足分散条件的节点得分,但它不是硬过滤条件,因此候选拓扑不足时,调度器仍可以把多个副本放到同一节点。

预期结果

text
候选节点充足时,Pod 通常优先分散到不同 NODE;拓扑容量不足时,Deployment 仍可达到期望副本数,但多个 Pod 可能位于同一 NODE。

验证时仍应执行 kubectl get pods -l app=web -o wide,观察真实的 NODE 分布,而不是假设软反亲和一定形成完全隔离。

生产配置应先明确需要防范的故障域,再决定约束强度:必须保证隔离时使用 required;容量紧张时允许暂时降级,则使用 preferred。最终验收既要确认期望副本全部运行,也要检查副本是否真正分散到目标节点或可用区。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

配置 Pod 反亲和高可用

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通