容器与云原生 / 系统课时
自动验证关键通信矩阵
自动验证关键通信矩阵
NetworkPolicy 是否可靠,不能只看 YAML 是否创建成功,还要验证关键流量是否符合预期。本课把源、目标、端口和期望结果整理成可执行矩阵,用同一探测脚本区分连通结果与测试环境错误,并为 CI/CD 提供稳定的布尔退出状态。
学习目标
- 将业务依赖整理为同时包含允许与拒绝路径的通信矩阵
- 使用临时 Pod 自动验证关键 TCP 路径,并识别 DNS、镜像、RBAC 等测试故障
- 让意外放通、意外阻断和测试环境错误都能可靠阻断发布
把策略目标变成通信矩阵
检查 NetworkPolicy 对象是否存在,只能证明资源被 API Server 接收,不能证明数据面行为正确。回归测试应直接描述“谁访问谁、访问哪个端口、期望连通还是不连通”,并同时覆盖允许与拒绝路径。
| 用例 | 源命名空间 / 标签 | 目标 | 端口 | 期望 |
|---|---|---|---|---|
| frontend-to-backend | app / app=frontend |
backend.app.svc.cluster.local |
8080 | ALLOW |
| backend-to-database | app / app=backend |
database.app.svc.cluster.local |
5432 | ALLOW |
| frontend-to-database | app / app=frontend |
database.app.svc.cluster.local |
5432 | DENY |
| other-tenant-to-backend | tenant-b / tenant=other |
backend.app.svc.cluster.local |
8080 | DENY |
只测 ALLOW 容易漏掉策略过宽,只测 DENY 又无法发现正常业务被误拦截。矩阵应来自真实业务依赖与安全边界,而不是无目的地扫描所有端口。
在探测前排除环境故障
Service 不存在、目标端口未暴露、EndpointSlice 没有可用 endpoint、探测 Pod 创建被 RBAC 拒绝、镜像拉取失败或 DNS 解析失败,都不应记成“策略成功阻断”。这些情况属于测试结果不可信,应记录为 ERROR 并让 CI 失败。
下面的主脚本会在每条用例执行前检查目标 Service、端口和可用 endpoint;创建探测 Pod 后继续观察容器状态。只有探测程序真正执行完成,才会把退出状态转换为 ALLOW 或 DENY。
用一个脚本执行全部用例
脚本将矩阵字段映射为函数参数:用例名、源命名空间、源标签、目标命名空间、Service、端口和期望结果。探针先执行 DNS 解析,再执行 TCP 连接;为了避免把 Shell 自身错误混进策略结果,连接失败会被显式映射为退出码 10,DNS 故障映射为 20,其他探针错误映射为 30。
#!/usr/bin/env bash
set -u
overall_failed=0
check_tcp() {
local name="$1"
local source_ns="$2"
local source_labels="$3"
local target_ns="$4"
local service="$5"
local port="$6"
local expected="$7"
local target="${service}.${target_ns}.svc.cluster.local"
local pod="np-${name}-$$"
local ports endpoints create_out phase waiting exit_code reason actual
if ! ports=$(kubectl get service "${service}" -n "${target_ns}" \
-o jsonpath='{range .spec.ports[*]}{.port}{"\n"}{end}' 2>&1); then
printf 'ERROR %-25s target Service unreadable: %s\n' "${name}" "${ports}"
overall_failed=1
return
fi
if ! grep -qx "${port}" <<<"${ports}"; then
printf 'ERROR %-25s target port %s is not exposed by Service %s/%s\n' \
"${name}" "${port}" "${target_ns}" "${service}"
overall_failed=1
return
fi
if ! endpoints=$(kubectl get endpointslices.discovery.k8s.io -n "${target_ns}" \
-l "kubernetes.io/service-name=${service}" \
-o jsonpath='{range .items[*].endpoints[*]}{.addresses[0]}{"|"}{.conditions.ready}{"\n"}{end}' 2>&1); then
printf 'ERROR %-25s EndpointSlice unreadable: %s\n' "${name}" "${endpoints}"
overall_failed=1
return
fi
if ! awk -F'|' '$1 != "" && $2 != "false" { found=1 } END { exit(found ? 0 : 1) }' <<<"${endpoints}"; then
printf 'ERROR %-25s no usable endpoint for %s/%s\n' \
"${name}" "${target_ns}" "${service}"
overall_failed=1
return
fi
if ! create_out=$(kubectl run "${pod}" \
--namespace="${source_ns}" \
--image=busybox:1.36 \
--restart=Never \
--labels="${source_labels}" \
--command -- sh -c \
"nslookup ${target} >/dev/null 2>&1 || exit 20; \
nc -z -w 3 ${target} ${port}; rc=\$?; \
[ \${rc} -eq 0 ] && exit 0; [ \${rc} -eq 1 ] && exit 10; exit 30" \
2>&1); then
printf 'ERROR %-25s probe Pod creation failed: %s\n' "${name}" "${create_out}"
overall_failed=1
return
fi
phase=""
for _ in $(seq 1 45); do
if ! phase=$(kubectl get pod "${pod}" -n "${source_ns}" \
-o jsonpath='{.status.phase}' 2>/dev/null); then
printf 'ERROR %-25s unable to read probe Pod status\n' "${name}"
overall_failed=1
kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
return
fi
case "${phase}" in
Succeeded|Failed)
break
;;
Pending|Running)
waiting=$(kubectl get pod "${pod}" -n "${source_ns}" \
-o jsonpath='{.status.containerStatuses[0].state.waiting.reason}' 2>/dev/null || true)
case "${waiting}" in
ErrImagePull|ImagePullBackOff|CreateContainerConfigError|CreateContainerError|InvalidImageName)
printf 'ERROR %-25s probe container cannot start: %s\n' "${name}" "${waiting}"
overall_failed=1
kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
return
;;
esac
sleep 1
;;
*)
printf 'ERROR %-25s unexpected Pod phase: %s\n' "${name}" "${phase}"
overall_failed=1
kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
return
;;
esac
done
if [ "${phase}" != "Succeeded" ] && [ "${phase}" != "Failed" ]; then
printf 'ERROR %-25s probe timed out in phase=%s\n' "${name}" "${phase}"
overall_failed=1
kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
return
fi
exit_code=$(kubectl get pod "${pod}" -n "${source_ns}" \
-o jsonpath='{.status.containerStatuses[0].state.terminated.exitCode}' 2>/dev/null || true)
reason=$(kubectl get pod "${pod}" -n "${source_ns}" \
-o jsonpath='{.status.containerStatuses[0].state.terminated.reason}' 2>/dev/null || true)
case "${exit_code}" in
0)
actual="ALLOW"
;;
10)
actual="DENY"
;;
20)
printf 'ERROR %-25s DNS resolution failed for %s\n' "${name}" "${target}"
overall_failed=1
actual=""
;;
*)
printf 'ERROR %-25s probe execution error exit=%s reason=%s\n' \
"${name}" "${exit_code:-<VALUE>}" "${reason:-<VALUE>}"
overall_failed=1
actual=""
;;
esac
if [ -n "${actual}" ]; then
if [ "${actual}" = "${expected}" ]; then
printf 'PASS %-25s expected=%s actual=%s\n' "${name}" "${expected}" "${actual}"
else
printf 'FAIL %-25s expected=%s actual=%s\n' "${name}" "${expected}" "${actual}"
overall_failed=1
fi
fi
kubectl delete pod "${pod}" -n "${source_ns}" --ignore-not-found >/dev/null 2>&1
}
check_tcp frontend-to-backend app 'app=frontend' app backend 8080 ALLOW
check_tcp backend-to-database app 'app=backend' app database 5432 ALLOW
check_tcp frontend-to-database app 'app=frontend' app database 5432 DENY
check_tcp other-tenant-to-backend tenant-b 'tenant=other' app backend 8080 DENY
exit "${overall_failed}"预期输出
PASS frontend-to-backend expected=ALLOW actual=ALLOW
PASS backend-to-database expected=ALLOW actual=ALLOW
PASS frontend-to-database expected=DENY actual=DENY
PASS other-tenant-to-backend expected=DENY actual=DENY实际 Pod 名称和集群对象状态会随环境变化。若出现 ERROR,脚本不会把它转换成 DENY;无论出现多少条 FAIL 或 ERROR,最终退出码都只会是 0 或 1,因此不会发生失败计数超过 255 后被截断的问题。
把矩阵接入发布门禁
接入 CI/CD 后,只有全部测试与期望一致才允许发布。意外放通、意外阻断以及测试环境错误都会返回 1,但日志分别使用 FAIL 和 ERROR,便于判断是策略行为不符合预期,还是本次验证本身不可信。
矩阵扩大时,应新增数据记录并复用同一探测逻辑,不要复制几十段相似命令。优先覆盖跨命名空间访问、租户隔离、数据库访问和共享服务;当业务依赖或策略边界变化时同步更新矩阵,才能让它长期作为可维护的网络隔离回归契约。