Web 服务器与网关 / 系统课时

控制代理超时与缓冲

控制代理超时与缓冲

本课解决反向代理中请求等待过久、响应传输异常和大响应占用内存等问题。通过配置连接、发送、读取超时以及代理缓冲参数,可以让 Nginx 更稳定地处理普通接口、长耗时任务和流式响应。

学习目标

  • 理解 Nginx 代理超时参数分别控制的阶段。
  • 配置代理缓冲机制并根据业务类型调整策略。
  • 排查超时和响应延迟问题。

理解代理请求生命周期

Nginx 作为网关转发请求时,会经历连接上游、发送请求、读取响应三个阶段。不同阶段的问题需要不同参数控制,否则容易出现接口偶发 504、长任务提前断开或响应堆积。

proxy_connect_timeout 控制建立上游连接的等待时间,proxy_send_timeout 控制向上游发送请求的间隔等待,proxy_read_timeout 控制等待上游返回数据的间隔时间。它们不是整个请求总耗时限制。

配置代理超时参数

下面示例为普通 HTTP 服务配置代理超时。实际时间需要根据接口类型调整,例如查询接口通常较短,报表生成等任务需要更长等待。

nginx
server {
    listen <PORT>;

    location /api/ {
        proxy_pass http://backend_service;

        # 建立 TCP 连接允许等待的时间
        proxy_connect_timeout 5s;
        # 向上游发送请求数据的等待时间
        proxy_send_timeout 30s;
        # 等待上游返回数据的间隔时间
        proxy_read_timeout 60s;
    }
}

预期结果

text
Nginx 成功加载配置后,/api/ 请求会按照新的连接、发送和读取超时规则转发。

验证配置是否生效:

bash
nginx -t && nginx -s reload

预期结果

text
nginx: configuration file <PATH> test is successful

理解代理缓冲机制

代理缓冲决定 Nginx 如何接收和转发上游响应。默认情况下,Nginx 会先读取部分响应到缓冲区,再发送给客户端,这可以减少客户端速度差异对上游服务的影响。

常用参数包括 proxy_buffering、proxy_buffers 和 proxy_buffer_size。普通接口开启缓冲通常可以提升稳定性,但实时日志、消息推送等流式场景可能需要关闭缓冲。

nginx
location /stream/ {
    proxy_pass http://backend_stream;

    # 流式响应需要及时转发,不等待缓冲积累
    proxy_buffering off;
}

预期结果

text
客户端可以持续收到上游产生的数据,而不是等待完整响应结束。

根据业务选择参数

普通接口关注吞吐和稳定性,可以保持默认缓冲并设置合理读取超时。长任务接口需要延长 proxy_read_timeout,同时配合异步任务设计避免连接长期占用。

流式输出场景通常关闭缓冲,并检查客户端、负载均衡和应用服务器是否也支持持续传输。

常见超时问题定位

出现 504 Gateway Timeout 时,应先确认是连接失败还是读取超时。查看 Nginx 错误日志中的 upstream 信息,可以判断是上游响应慢、网络不可达还是参数过短。

不要简单无限增大超时时间,否则慢请求会长期占用连接资源,影响整体并发能力。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

控制代理超时与缓冲

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通