Web 服务器与网关 / 系统课时
权重适合什么样的服务器
权重适合什么样的服务器
两台后端的容量不同,等量请求可能让较弱节点先过载。本篇用 3:1 权重验证相对请求比例,再把容量与业务成本放进一个数值例子,说明权重应该怎样测量和调整,而不是直接照搬 CPU 核数。
学习目标
- 设置节点 weight 并检查请求分配数量。
- 用压测容量估算起始权重,识别不适合静态比例的情况。
- 区分相对权重、并发上限与真实业务负载。
先用容量而不是机器标签估算
假设在相同接口、相同延迟目标下,A 稳定处理 300 请求/秒,B 处理 100 请求/秒,则可以先试 3:1。总流量 200 请求/秒时,理想平均分别为 150 与 50;总流量 400 时分别达到 300 与 100,已经没有额外余量。
这个估算要求请求成本近似、节点健康且容量测量可比。8 核机器不必然是 4 核机器的两倍:数据库锁、内存带宽、外部 API 限制都可能先成为瓶颈。不能把上面 400 请求/秒当成任何真实系统的保证。
用两个固定响应节点验证 3:1
以下是 http 上下文的完整实验片段示例,使用本机空闲的 8080、9001、9002;内部 server 只返回节点标记,不运行真实业务。
upstream weighted_nodes {
zone weighted_nodes 64k;
# 相对比例为 3:1,不是最多允许 3 条与 1 条连接。
server 127.0.0.1:9001 weight=3;
server 127.0.0.1:9002 weight=1;
}
server {
listen 127.0.0.1:8080;
server_name weight.test;
location / { proxy_pass http://weighted_nodes; }
}
# 测试节点保持相同的即时响应方式。
server { listen 127.0.0.1:9001; return 200 "A\n"; }
server { listen 127.0.0.1:9002; return 200 "B\n"; }检查并重载配置后,组会按相对权重分配请求。weight=6 与 weight=2 也表达 3:1;它不是给节点设置绝对吞吐上限,也不能阻止一次昂贵请求占用大量资源。
# 用完整比例周期统计,避免只看一两次请求就判断权重无效。
for n in $(seq 1 40); do
curl -fsS -H 'Host: weight.test' http://127.0.0.1:8080/
done | sort | uniq -c | awk '{print $1, $2}'预期输出,在刚加载本配置、没有其他实验流量且两节点均健康时为:
30 A
10 B这些结果只验证配置比例。固定 return 的节点无法证明 A 容量确实是 B 三倍;真实容量必须由代表性的接口、数据集与负载测试提供。
上线后以延迟和饱和度修正
| 观察结果 | 调整方向 |
|---|---|
| B 的 CPU 与队列持续饱和,A 仍有余量 | 先排除 B 异常,再降低 B 相对权重 |
| A、B 都等待同一数据库,延迟同步升高 | 查共享瓶颈,改比例未必有效 |
| 两节点请求量近似比例,重请求都落在 A | 分析接口成本与分配信号 |
| 节点刚恢复且缓存未热 | 评估恢复过程,避免立即给满额流量 |
一次只改变一个可解释的比例,例如从 3:1 试到 2:1,并记录同一流量窗口内的错误率、P95 延迟与资源使用。修改前保留旧配置,检查、reload 后再观察;比例调大不应替代扩容或修复。
默认加权轮询及 weight 的定义见官方服务器参数。本课 Nginx 1.28 开源实验不把商业版 slow_start 当成现成可用指令;版本与产品能力应独立核对。