Web 服务器与网关 / 系统课时

连接数限制适合什么场景

连接数限制适合什么场景

下载、长查询或慢接口可能请求频率不高,却长期占用并发资源。本篇用一个保持两秒的请求展示连接额度被占用和释放的过程,说明 limit_conn 的统计口径,以及它与每秒请求数限制之间的区别。

学习目标

  • 按并发占用选择 limit_conn 而非只看请求频率。
  • 复现首个请求占用、第二个拒绝与完成后恢复。
  • 理解空闲连接、HTTP 多路复用和应用工作之间的边界。

统计正在处理的请求

limit_conn 只统计已读完请求首部且正在处理请求的连接,空闲 Keep-Alive 并不因此一直占用此额度。HTTP/2、HTTP/3 中每个并发请求按单独连接计数,不能用物理 TCP 条数替代这个口径。官方连接限制说明

同一来源的慢请求占用一个名额,结束后名额释放

运行可观察的慢后端

实验需要 Python 3、Nginx 1.28、curl 和空闲回环 9001、8080。在独立终端运行完整程序:

python
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
import time

class App(BaseHTTPRequestHandler):
    def do_GET(self):
        time.sleep(2)
        self.send_response(200)
        self.end_headers()
        self.wfile.write(b"done\n")

    def log_message(self, *args):
        pass

if __name__ == "__main__":
    ThreadingHTTPServer(("127.0.0.1", 9001), App).serve_forever()

预期结果:程序持续监听且无启动输出;每个请求等待约两秒再返回 200 与 done。结束实验按 Ctrl+C。以下片段示例放在 http:

nginx
limit_conn_zone $binary_remote_addr zone=slow_clients:1m;
server {
    listen 127.0.0.1:8080;
    server_name conn.test;
    location = /slow {
        limit_conn slow_clients 1;
        limit_conn_status 429;
        proxy_read_timeout 5s;
        proxy_pass http://127.0.0.1:9001;
    }
}

检查并重载后,在 Linux shell 执行完整对照:

bash
curl --noproxy '*' -sS -o /dev/null -w 'first=%{http_code}\n' http://127.0.0.1:8080/slow &
first_pid=$!
sleep 0.3
curl --noproxy '*' -sS -o /dev/null -w 'second=%{http_code}\n' http://127.0.0.1:8080/slow
wait "$first_pid"
curl --noproxy '*' -sS -o /dev/null -w 'after=%{http_code}\n' http://127.0.0.1:8080/slow

预期输出:

text
second=429
first=200
after=200

该顺序依赖第一条确已进入后端且仍在等待;受调度影响时,结合后端日志确认重叠,而非直接增加限制值掩盖问题。

并发与速率需要分别规划

场景 更直接的约束
大量快速调用 limit_req 控制频率与突发
少量长期等待或大下载 limit_conn 控制活动并发
应用队列中的昂贵任务 应用自身的工作队列与并发预算

按 IP 限制会影响共享出口;多台 Nginx 的共享区也不会自动合并。必要时同时设置每来源限制与整站预算,并明确拒绝状态;limit_conn 默认拒绝为 503,本例用 429 便于识别。

释放连接不等于取消工作

Nginx 结束请求后计数可以释放,但已提交给应用的任务可能继续运行。不要以代理连接数推算数据库当前事务数,也不要把客户端断开理解为已回滚。缓冲策略、流式响应与后端任务生命周期都应独立验证。

上线前观察活动请求数、拒绝率、请求时长和应用队列长度;空闲超时和文件描述符限制仍需另行配置。限并发是容量保护的一环,不能承诺避免所有资源耗尽。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

连接数限制适合什么场景

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通