容器与云原生 / 系统课时

自动验证关键通信矩阵

自动验证关键通信矩阵

NetworkPolicy 是否可靠,不能只看 YAML 是否创建成功,还要验证关键流量是否符合预期。本课把源、目标、端口和期望结果整理成可执行矩阵,用同一探测脚本区分连通结果与测试环境错误,并为 CI/CD 提供稳定的布尔退出状态。

学习目标

  • 将业务依赖整理为同时包含允许与拒绝路径的通信矩阵
  • 使用临时 Pod 自动验证关键 TCP 路径,并识别 DNS、镜像、RBAC 等测试故障
  • 让意外放通、意外阻断和测试环境错误都能可靠阻断发布

把策略目标变成通信矩阵

检查 NetworkPolicy 对象是否存在,只能证明资源被 API Server 接收,不能证明数据面行为正确。回归测试应直接描述“谁访问谁、访问哪个端口、期望连通还是不连通”,并同时覆盖允许与拒绝路径。

用例 源命名空间 / 标签 目标 端口 期望
frontend-to-backend app / app=frontend backend.app.svc.cluster.local 8080 ALLOW
backend-to-database app / app=backend database.app.svc.cluster.local 5432 ALLOW
frontend-to-database app / app=frontend database.app.svc.cluster.local 5432 DENY
other-tenant-to-backend tenant-b / tenant=other backend.app.svc.cluster.local 8080 DENY

只测 ALLOW 容易漏掉策略过宽,只测 DENY 又无法发现正常业务被误拦截。矩阵应来自真实业务依赖与安全边界,而不是无目的地扫描所有端口。

在探测前排除环境故障

Service 不存在、目标端口未暴露、EndpointSlice 没有可用 endpoint、探测 Pod 创建被 RBAC 拒绝、镜像拉取失败或 DNS 解析失败,都不应记成“策略成功阻断”。这些情况属于测试结果不可信,应记录为 ERROR 并让 CI 失败。

下面的主脚本会在每条用例执行前检查目标 Service、端口和可用 endpoint;创建探测 Pod 后继续观察容器状态。只有探测程序真正执行完成,才会把退出状态转换为 ALLOW 或 DENY。

用一个脚本执行全部用例

脚本将矩阵字段映射为函数参数:用例名、源命名空间、源标签、目标命名空间、Service、端口和期望结果。探针先执行 DNS 解析,再执行 TCP 连接;为了避免把 Shell 自身错误混进策略结果,连接失败会被显式映射为退出码 10,DNS 故障映射为 20,其他探针错误映射为 30。

bash
#!/usr/bin/env bash
set -u

overall_failed=0

check_tcp() {
  local name="$1"
  local source_ns="$2"
  local source_labels="$3"
  local target_ns="$4"
  local service="$5"
  local port="$6"
  local expected="$7"
  local target="${service}.${target_ns}.svc.cluster.local"
  local pod="np-${name}-$$"
  local ports endpoints create_out phase waiting exit_code reason actual

  if ! ports=$(kubectl get service "${service}" -n "${target_ns}" \
    -o jsonpath='{range .spec.ports[*]}{.port}{"\n"}{end}' 2>&1); then
    printf 'ERROR %-25s target Service unreadable: %s\n' "${name}" "${ports}"
    overall_failed=1
    return
  fi

  if ! grep -qx "${port}" <<<"${ports}"; then
    printf 'ERROR %-25s target port %s is not exposed by Service %s/%s\n' \
      "${name}" "${port}" "${target_ns}" "${service}"
    overall_failed=1
    return
  fi

  if ! endpoints=$(kubectl get endpointslices.discovery.k8s.io -n "${target_ns}" \
    -l "kubernetes.io/service-name=${service}" \
    -o jsonpath='{range .items[*].endpoints[*]}{.addresses[0]}{"|"}{.conditions.ready}{"\n"}{end}' 2>&1); then
    printf 'ERROR %-25s EndpointSlice unreadable: %s\n' "${name}" "${endpoints}"
    overall_failed=1
    return
  fi

  if ! awk -F'|' '$1 != "" && $2 != "false" { found=1 } END { exit(found ? 0 : 1) }' <<<"${endpoints}"; then
    printf 'ERROR %-25s no usable endpoint for %s/%s\n' \
      "${name}" "${target_ns}" "${service}"
    overall_failed=1
    return
  fi

  if ! create_out=$(kubectl run "${pod}" \
    --namespace="${source_ns}" \
    --image=busybox:1.36 \
    --restart=Never \
    --labels="${source_labels}" \
    --command -- sh -c \
    "nslookup ${target} >/dev/null 2>&1 || exit 20; \
nc -z -w 3 ${target} ${port}; rc=\$?; \
[ \${rc} -eq 0 ] && exit 0; [ \${rc} -eq 1 ] && exit 10; exit 30" \
    2>&1); then
    printf 'ERROR %-25s probe Pod creation failed: %s\n' "${name}" "${create_out}"
    overall_failed=1
    return
  fi

  phase=""
  for _ in $(seq 1 45); do
    if ! phase=$(kubectl get pod "${pod}" -n "${source_ns}" \
      -o jsonpath='{.status.phase}' 2>/dev/null); then
      printf 'ERROR %-25s unable to read probe Pod status\n' "${name}"
      overall_failed=1
      kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
      return
    fi

    case "${phase}" in
      Succeeded|Failed)
        break
        ;;
      Pending|Running)
        waiting=$(kubectl get pod "${pod}" -n "${source_ns}" \
          -o jsonpath='{.status.containerStatuses[0].state.waiting.reason}' 2>/dev/null || true)
        case "${waiting}" in
          ErrImagePull|ImagePullBackOff|CreateContainerConfigError|CreateContainerError|InvalidImageName)
            printf 'ERROR %-25s probe container cannot start: %s\n' "${name}" "${waiting}"
            overall_failed=1
            kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
            return
            ;;
        esac
        sleep 1
        ;;
      *)
        printf 'ERROR %-25s unexpected Pod phase: %s\n' "${name}" "${phase}"
        overall_failed=1
        kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
        return
        ;;
    esac
  done

  if [ "${phase}" != "Succeeded" ] && [ "${phase}" != "Failed" ]; then
    printf 'ERROR %-25s probe timed out in phase=%s\n' "${name}" "${phase}"
    overall_failed=1
    kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
    return
  fi

  exit_code=$(kubectl get pod "${pod}" -n "${source_ns}" \
    -o jsonpath='{.status.containerStatuses[0].state.terminated.exitCode}' 2>/dev/null || true)
  reason=$(kubectl get pod "${pod}" -n "${source_ns}" \
    -o jsonpath='{.status.containerStatuses[0].state.terminated.reason}' 2>/dev/null || true)

  case "${exit_code}" in
    0)
      actual="ALLOW"
      ;;
    10)
      actual="DENY"
      ;;
    20)
      printf 'ERROR %-25s DNS resolution failed for %s\n' "${name}" "${target}"
      overall_failed=1
      actual=""
      ;;
    *)
      printf 'ERROR %-25s probe execution error exit=%s reason=%s\n' \
        "${name}" "${exit_code:-<VALUE>}" "${reason:-<VALUE>}"
      overall_failed=1
      actual=""
      ;;
  esac

  if [ -n "${actual}" ]; then
    if [ "${actual}" = "${expected}" ]; then
      printf 'PASS  %-25s expected=%s actual=%s\n' "${name}" "${expected}" "${actual}"
    else
      printf 'FAIL  %-25s expected=%s actual=%s\n' "${name}" "${expected}" "${actual}"
      overall_failed=1
    fi
  fi

  kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
}

check_tcp frontend-to-backend app 'app=frontend' app backend 8080 ALLOW
check_tcp backend-to-database app 'app=backend' app database 5432 ALLOW
check_tcp frontend-to-database app 'app=frontend' app database 5432 DENY
check_tcp other-tenant-to-backend tenant-b 'tenant=other' app backend 8080 DENY

exit "${overall_failed}"

预期输出

text
PASS  frontend-to-backend       expected=ALLOW actual=ALLOW
PASS  backend-to-database       expected=ALLOW actual=ALLOW
PASS  frontend-to-database      expected=DENY actual=DENY
PASS  other-tenant-to-backend   expected=DENY actual=DENY

实际 Pod 名称和集群对象状态会随环境变化。若出现 ERROR,脚本不会把它转换成 DENY;无论出现多少条 FAIL 或 ERROR,最终退出码都只会是 0 或 1,因此不会发生失败计数超过 255 后被截断的问题。

把矩阵接入发布门禁

接入 CI/CD 后,只有全部测试与期望一致才允许发布。意外放通、意外阻断以及测试环境错误都会返回 1,但日志分别使用 FAIL 和 ERROR,便于判断是策略行为不符合预期,还是本次验证本身不可信。

矩阵扩大时,应新增数据记录并复用同一探测逻辑,不要复制几十段相似命令。优先覆盖跨命名空间访问、租户隔离、数据库访问和共享服务;当业务依赖或策略边界变化时同步更新矩阵,才能让它长期作为可维护的网络隔离回归契约。

按自己的节奏,确认真正理解。

目录与阅读设置

记录一个想法

自动验证关键通信矩阵

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通