Web 服务器与网关 / 系统课时
控制代理超时与缓冲
控制代理超时与缓冲
本课解决反向代理中请求等待过久、响应传输异常和大响应占用内存等问题。通过配置连接、发送、读取超时以及代理缓冲参数,可以让 Nginx 更稳定地处理普通接口、长耗时任务和流式响应。
学习目标
- 理解 Nginx 代理超时参数分别控制的阶段。
- 配置代理缓冲机制并根据业务类型调整策略。
- 排查超时和响应延迟问题。
理解代理请求生命周期
Nginx 作为网关转发请求时,会经历连接上游、发送请求、读取响应三个阶段。不同阶段的问题需要不同参数控制,否则容易出现接口偶发 504、长任务提前断开或响应堆积。
proxy_connect_timeout 控制建立上游连接的等待时间,proxy_send_timeout 控制向上游发送请求的间隔等待,proxy_read_timeout 控制等待上游返回数据的间隔时间。它们不是整个请求总耗时限制。
配置代理超时参数
下面示例为普通 HTTP 服务配置代理超时。实际时间需要根据接口类型调整,例如查询接口通常较短,报表生成等任务需要更长等待。
server {
listen <PORT>;
location /api/ {
proxy_pass http://backend_service;
# 建立 TCP 连接允许等待的时间
proxy_connect_timeout 5s;
# 向上游发送请求数据的等待时间
proxy_send_timeout 30s;
# 等待上游返回数据的间隔时间
proxy_read_timeout 60s;
}
}预期结果
Nginx 成功加载配置后,/api/ 请求会按照新的连接、发送和读取超时规则转发。验证配置是否生效:
nginx -t && nginx -s reload预期结果
nginx: configuration file <PATH> test is successful理解代理缓冲机制
代理缓冲决定 Nginx 如何接收和转发上游响应。默认情况下,Nginx 会先读取部分响应到缓冲区,再发送给客户端,这可以减少客户端速度差异对上游服务的影响。
常用参数包括 proxy_buffering、proxy_buffers 和 proxy_buffer_size。普通接口开启缓冲通常可以提升稳定性,但实时日志、消息推送等流式场景可能需要关闭缓冲。
location /stream/ {
proxy_pass http://backend_stream;
# 流式响应需要及时转发,不等待缓冲积累
proxy_buffering off;
}预期结果
客户端可以持续收到上游产生的数据,而不是等待完整响应结束。根据业务选择参数
普通接口关注吞吐和稳定性,可以保持默认缓冲并设置合理读取超时。长任务接口需要延长 proxy_read_timeout,同时配合异步任务设计避免连接长期占用。
流式输出场景通常关闭缓冲,并检查客户端、负载均衡和应用服务器是否也支持持续传输。
常见超时问题定位
出现 504 Gateway Timeout 时,应先确认是连接失败还是读取超时。查看 Nginx 错误日志中的 upstream 信息,可以判断是上游响应慢、网络不可达还是参数过短。
不要简单无限增大超时时间,否则慢请求会长期占用连接资源,影响整体并发能力。