Web 服务器与网关 / 系统课时
代理超时应该在哪里配置
代理超时应该在哪里配置
后端连接失败、上传请求卡住和等待响应太久,发生在不同阶段。本篇把三个代理超时对应到实际操作,并用延迟响应与分段响应做对照,说明读取超时为什么不能直接当成整个接口的总时限。
学习目标
- 按连接、发送请求、读取响应三个阶段选择超时指令。
- 用本地延迟服务复现读取超时,并观察 504。
- 区分相邻读写间隔、端到端时限与请求是否已经执行。
先把等待放回对应阶段
| 指令 | 约束对象 | 不应混淆的对象 |
|---|---|---|
| proxy_connect_timeout | 与上游建立连接 | 后端 SQL 执行总时长 |
| proxy_send_timeout | 向上游连续两次写操作的间隔 | 客户端上传全程 |
| proxy_read_timeout | 从上游连续两次读操作的间隔 | 完整响应的总耗时 |

连接被立即拒绝通常直接失败,不必等满连接超时。读取阶段若还没向客户端发出响应头,超时常见结果是 504;响应头或部分正文已经发出时,可能表现为截断或断开,不能保证还能换成另一份 504 页面。
用一秒间隔做可重复实验
以下是 http 上下文中的片段示例,依赖本机 9000 延迟服务。数值特意缩短用于实验,不是所有业务的生产推荐值:
server {
listen 127.0.0.1:8080;
server_name timeout.test;
location / {
proxy_pass http://127.0.0.1:9000;
proxy_connect_timeout 1s;
proxy_send_timeout 1s;
# 一秒没有新的上游数据会触发读取超时。
proxy_read_timeout 1s;
proxy_buffering off;
}
}把下列完整 Python 3 程序保存为 slow_server.py,执行 python3 slow_server.py。程序的 /slow 在响应头之前等待两秒,/stream 则每隔 0.6 秒发送下一段;其余路径立即返回。终端保持运行,完成后 Ctrl+C 退出。
import time
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
class Slow(BaseHTTPRequestHandler):
def do_GET(self):
try:
if self.path == "/slow":
time.sleep(2) # 超过实验中的首次读取等待。
parts = [b"A\n", b"B\n", b"C\n"] if self.path == "/stream" else [b"ok\n"]
self.send_response(200)
self.send_header("Content-Length", str(sum(map(len, parts))))
self.end_headers()
for index, part in enumerate(parts):
if index:
time.sleep(0.6)
self.wfile.write(part)
self.wfile.flush()
except (BrokenPipeError, ConnectionResetError):
pass # 代理超时后关闭连接,实验服务允许这一结果。
if __name__ == "__main__":
ThreadingHTTPServer(("127.0.0.1", 9000), Slow).serve_forever()预期结果:服务持续监听。直连 /slow 等约两秒后得到 200 和 ok;直连 /stream 得到 A、B、C 三行,分段间隔约 0.6 秒。时长受到调度影响,不要求毫秒级一致。
对照超时与持续传输
检查并重载配置后,在另一终端执行:
# 第一条丢弃 Nginx 错误页,只检查状态;第二条保留流内容。
curl -sS -o /dev/null -H 'Host: timeout.test' -w 'status=%{http_code}\n' http://127.0.0.1:8080/slow
curl -sS -N -H 'Host: timeout.test' -w 'status=%{http_code}\n' http://127.0.0.1:8080/stream预期输出:
status=504
A
B
C
status=200第二条完整响应超过一秒,仍能成功,因为相邻数据间隔没有达到一秒。把程序的分段等待改为 1.5 秒,再测试可能得到先发出的 200 头和不完整正文;这不是成功完成了响应。实验中关闭代理缓冲便于观察分段,不能由此推导所有业务都应关闭缓冲。
按业务预算设值并检查错误位置
实际 API 可先以连接 3 秒、发送 10 秒、读取 30 秒作为讨论起点,再依据服务分布、响应分段和调用方预算测量调整。客户端、入口、应用和数据库的总时限应协调,例如调用方只等 5 秒时,把代理读取间隔设成 300 秒并不能让调用方继续等待。
排错先记录请求路径、错误发生阶段、error.log 与后端处理时间。入口超时并不保证后端停止执行,尤其支付或创建订单不要让客户端盲目重试;应用需配合幂等键或查询执行结果。三个 Nginx 指令的精确定义可对照代理模块文档,不要只改一个数字后忽略其他层的期限。