Web 服务器与网关 / 系统课时

默认轮询怎样分配请求

默认轮询怎样分配请求

默认负载均衡常被误解成所有请求严格依次访问 A、B、C。本篇用三个等权节点统计请求数量,说明轮询在健康、共享状态的实验条件下怎样分配,以及为什么真实日志不一定呈现整齐的循环顺序。

学习目标

  • 用实际请求计数观察默认等权轮询。
  • 区分请求数量、并发连接、流量大小和计算成本。
  • 解释多个 Worker、重试与节点失败对观察结果的影响。

等权只说明请求分配比例

upstream 没写其他算法时采用加权轮询,默认 weight 为 1,因此三个节点等权。它不会按响应字节数或 CPU 时间补偿:A 处理一份 10 MB 报表、B 处理一个 20 字节健康检查,二者都可以计为一个请求。

下面的实验统计 18 次顺序请求。每个后端都立即返回固定名称,关闭浏览器等额外访问;这样可以把业务耗时差异与重试的干扰降到很小。请求计数用表格和终端结果即可解释,不需要额外配图。

建立三个可辨认的等权节点

以下片段示例整体位于 http 上下文,依赖空闲的 8080、9001、9002、9003 端口。三个内部 server 都由本机 Nginx 提供,测试的是分配机制,不是三台机器的吞吐性能。

nginx
upstream rr_nodes {
    # 共享组状态,避免把多个 Worker 的各自计数误当一个序列。
    zone rr_nodes 64k;
    server 127.0.0.1:9001;
    server 127.0.0.1:9002;
    server 127.0.0.1:9003;
}
server {
    listen 127.0.0.1:8080;
    server_name rr.test;
    location / { proxy_pass http://rr_nodes; }
}
# 用响应正文标记节点,排除相同页面无法辨认来源的问题。
server { listen 127.0.0.1:9001; return 200 "A\n"; }
server { listen 127.0.0.1:9002; return 200 "B\n"; }
server { listen 127.0.0.1:9003; return 200 "C\n"; }

检查并重载后,每次成功请求应返回 A、B、C 中的一个。zone 共享上游状态,不表示每个响应都需要写入一个外部数据库。

统计总量而不是依赖第一条是谁

在本机执行:

bash
# -f 让 HTTP 错误显式失败;仅统计这次实验的响应名称。
for n in $(seq 1 18); do
  curl -fsS -H 'Host: rr.test' http://127.0.0.1:8080/
done | sort | uniq -c | awk '{print $1, $2}'

预期输出,条件是本配置刚加载、节点全健康且没有其他入口请求:

text
6 A
6 B
6 C

把次数改为 19,不能再期待三项相等,多的一次会落到某个节点。若统计少于发出的请求数,先检查 curl 是否报错,不能把连接失败的空输出当成该节点“分得少”。实验验收还应核对每次状态码均为 200。

为什么日志不会总是整齐循环

没有 zone 时,部分上游运行状态按 Worker 分开;多个客户端同时到达、某个节点临时不可用、请求重试或配置 reload,也会改变你看到的顺序。即使选取顺序符合轮询,较慢请求也可能后完成,因此按完成时间排日志会打乱顺序。

浏览器的一次页面加载还可能发出 HTML、脚本、图片等多次请求,不等于一次用户访问。保持客户端连接也不自动等于固定应用节点;WebSocket 升级后的既有连接则持续使用已建立的通道,不能把每条消息当成新的 HTTP 轮询请求。

需要定位分配时,可在受控日志中记录 upstream_addr 与状态,对比请求量、错误率和响应耗时。轮询解决分配问题,不保证计算负载相同;异构节点适合进一步评估权重,长短请求混合还需评估连接数等信号。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

默认轮询怎样分配请求

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通