Web 服务器与网关 / 系统课时

代理超时应该在哪里配置

代理超时应该在哪里配置

后端连接失败、上传请求卡住和等待响应太久,发生在不同阶段。本篇把三个代理超时对应到实际操作,并用延迟响应与分段响应做对照,说明读取超时为什么不能直接当成整个接口的总时限。

学习目标

  • 按连接、发送请求、读取响应三个阶段选择超时指令。
  • 用本地延迟服务复现读取超时,并观察 504。
  • 区分相邻读写间隔、端到端时限与请求是否已经执行。

先把等待放回对应阶段

指令 约束对象 不应混淆的对象
proxy_connect_timeout 与上游建立连接 后端 SQL 执行总时长
proxy_send_timeout 向上游连续两次写操作的间隔 客户端上传全程
proxy_read_timeout 从上游连续两次读操作的间隔 完整响应的总耗时

连接、发送和读取的超时分别位于三段操作

连接被立即拒绝通常直接失败,不必等满连接超时。读取阶段若还没向客户端发出响应头,超时常见结果是 504;响应头或部分正文已经发出时,可能表现为截断或断开,不能保证还能换成另一份 504 页面。

用一秒间隔做可重复实验

以下是 http 上下文中的片段示例,依赖本机 9000 延迟服务。数值特意缩短用于实验,不是所有业务的生产推荐值:

nginx
server {
    listen 127.0.0.1:8080;
    server_name timeout.test;
    location / {
        proxy_pass http://127.0.0.1:9000;
        proxy_connect_timeout 1s;
        proxy_send_timeout 1s;
        # 一秒没有新的上游数据会触发读取超时。
        proxy_read_timeout 1s;
        proxy_buffering off;
    }
}

把下列完整 Python 3 程序保存为 slow_server.py,执行 python3 slow_server.py。程序的 /slow 在响应头之前等待两秒,/stream 则每隔 0.6 秒发送下一段;其余路径立即返回。终端保持运行,完成后 Ctrl+C 退出。

python
import time
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer

class Slow(BaseHTTPRequestHandler):
    def do_GET(self):
        try:
            if self.path == "/slow":
                time.sleep(2)  # 超过实验中的首次读取等待。
            parts = [b"A\n", b"B\n", b"C\n"] if self.path == "/stream" else [b"ok\n"]
            self.send_response(200)
            self.send_header("Content-Length", str(sum(map(len, parts))))
            self.end_headers()
            for index, part in enumerate(parts):
                if index:
                    time.sleep(0.6)
                self.wfile.write(part)
                self.wfile.flush()
        except (BrokenPipeError, ConnectionResetError):
            pass  # 代理超时后关闭连接,实验服务允许这一结果。

if __name__ == "__main__":
    ThreadingHTTPServer(("127.0.0.1", 9000), Slow).serve_forever()

预期结果:服务持续监听。直连 /slow 等约两秒后得到 200 和 ok;直连 /stream 得到 A、B、C 三行,分段间隔约 0.6 秒。时长受到调度影响,不要求毫秒级一致。

对照超时与持续传输

检查并重载配置后,在另一终端执行:

bash
# 第一条丢弃 Nginx 错误页,只检查状态;第二条保留流内容。
curl -sS -o /dev/null -H 'Host: timeout.test' -w 'status=%{http_code}\n' http://127.0.0.1:8080/slow
curl -sS -N -H 'Host: timeout.test' -w 'status=%{http_code}\n' http://127.0.0.1:8080/stream

预期输出:

text
status=504
A
B
C
status=200

第二条完整响应超过一秒,仍能成功,因为相邻数据间隔没有达到一秒。把程序的分段等待改为 1.5 秒,再测试可能得到先发出的 200 头和不完整正文;这不是成功完成了响应。实验中关闭代理缓冲便于观察分段,不能由此推导所有业务都应关闭缓冲。

按业务预算设值并检查错误位置

实际 API 可先以连接 3 秒、发送 10 秒、读取 30 秒作为讨论起点,再依据服务分布、响应分段和调用方预算测量调整。客户端、入口、应用和数据库的总时限应协调,例如调用方只等 5 秒时,把代理读取间隔设成 300 秒并不能让调用方继续等待。

排错先记录请求路径、错误发生阶段、error.log 与后端处理时间。入口超时并不保证后端停止执行,尤其支付或创建订单不要让客户端盲目重试;应用需配合幂等键或查询执行结果。三个 Nginx 指令的精确定义可对照代理模块文档,不要只改一个数字后忽略其他层的期限。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

代理超时应该在哪里配置

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通