Web 服务器与网关 / 系统课时
least_conn 解决什么问题
least_conn 解决什么问题
报表请求需要几秒,普通接口只需几毫秒,平均分请求数量仍可能让某个节点积压。本篇用一个被占用的上游连接与连续短请求作对照,观察 least_conn 如何选择当前较空的节点,以及连接数不能代表哪些负载。
学习目标
- 在 upstream 启用最少活动连接策略。
- 用一个长请求和多次短请求验证节点选择。
- 区分活动连接数、CPU 使用率和真实请求成本。
选择时比较活动连接
等权情况下,A 已有 5 条活动上游连接,B 只有 1 条,least_conn 倾向把新请求送给 B。它也考虑节点权重;活动连接相当时,再用加权轮询决定。本课讨论的是 Nginx 到上游的活动连接,不是浏览器标签页数量。

准备会占住连接的后端
把以下完整程序保存为 connection_node.py。在两个 Linux 终端分别执行 python3 connection_node.py A 9001 与 python3 connection_node.py B 9002;两个端口需空闲。服务是实验回显,不提供真实报表。
import argparse
import time
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
class Node(BaseHTTPRequestHandler):
def do_GET(self):
if self.path == "/hold":
print("holding " + self.server.node, flush=True)
time.sleep(3) # 模拟长请求持续占用上游连接。
payload = (self.server.node + "\n").encode()
self.send_response(200)
self.send_header("Content-Length", str(len(payload)))
self.end_headers()
self.wfile.write(payload)
if __name__ == "__main__":
parser = argparse.ArgumentParser()
parser.add_argument("node", choices=["A", "B"])
parser.add_argument("port", type=int)
args = parser.parse_args()
server = ThreadingHTTPServer(("127.0.0.1", args.port), Node)
server.node = args.node
server.serve_forever()预期结果:两个服务保持运行;GET /hold 会打印 holding 加节点名,约三秒后返回该节点字母,其余路径立即返回。ThreadingHTTPServer 允许同时请求,避免把单线程后端的排队误当成代理策略。
启用共享状态下的最少连接
以下片段示例放入 Nginx http 上下文,依赖上述两个后端与空闲 8080:
upstream active_nodes {
least_conn;
zone active_nodes 64k;
server 127.0.0.1:9001;
server 127.0.0.1:9002;
}
server {
listen 127.0.0.1:8080;
server_name least.test;
location / {
# 上游超时大于三秒,允许长请求正常完成。
proxy_read_timeout 5s;
proxy_pass http://active_nodes;
}
}配置检查并重载后,在第三个终端执行以下整段命令;实验期间不要同时发送其他入口请求:
# 后台长请求先占住一条连接,再连续发送短请求。
curl -fsS -H 'Host: least.test' http://127.0.0.1:8080/hold > /tmp/nginx-held-node.txt &
hold_pid=$!
sleep 0.3
for n in 1 2 3 4; do
curl -fsS -H 'Host: least.test' http://127.0.0.1:8080/fast
done
wait "$hold_pid"
cat /tmp/nginx-held-node.txt预期结果:如果长请求先进入 A,四条短请求应返回 B,最后输出长请求的 A;长请求先进入 B 时则反过来。繁忙实验机不能仅依赖 0.3 秒等待,应先确认后端已打印 holding,再在长请求完成前发送短请求;若长请求已结束,对照条件就不成立。
连接少不等于计算压力低
一个 CPU 密集任务可能只占一条连接,另一个节点的十条连接却都在等待外部系统;least_conn 不读取节点 CPU,也不直接知道应用内部队列。短请求连续串行执行时,上一次很快结束,两节点计数常相等,此时优势也不明显。
长轮询、慢响应与不同处理时长使活动连接成为有价值的信号,但仍需比较错误率、延迟和饱和度。开启上游空闲连接复用后,也不要把保留的空闲连接全部当成正在执行业务。策略精确定义见官方 least_conn 说明。