Web 服务器与网关 / 系统课时

代理缓冲到底在缓冲什么

代理缓冲到底在缓冲什么

后端生成响应很快、客户端读取很慢时,两侧速度并不一致。代理响应缓冲能暂存上游数据,而逐条到达的事件流更看重及时送达。本篇用间隔一秒的两行数据比较两种模式,并把响应缓冲与请求体缓冲、缓存区分开。

学习目标

  • 识别 proxy_buffering 缓冲的是上游响应。
  • 验证开启和关闭时首行到达时间的差异。
  • 为流式路径保留独立配置与资源预算。

缓冲在上下游之间吸收速度差

开启响应缓冲时,Nginx 尽快接收上游响应,暂存在内存缓冲区,必要时部分写入临时文件;关闭时按接收节奏向客户端传递,不试图先读完整响应。官方代理缓冲说明

普通响应可以暂存,流式路径按收到的片段及时传递

缓冲开启也不表示所有响应必须完整接收后才开始发送。本实验故意选择很小、没有 Content-Length 的响应,让差异容易观察;真实分块、响应大小和缓冲状态会影响行为。

运行两行事件后端

需要 Python 3、Nginx 1.28、curl 及空闲回环 9001、8080。在独立终端运行完整程序:

python
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
import time

class App(BaseHTTPRequestHandler):
    def do_GET(self):
        self.send_response(200)
        self.send_header('Content-Type', 'text/event-stream')
        self.end_headers()
        self.wfile.write(b'data: first\n\n')
        self.wfile.flush()
        time.sleep(1)
        self.wfile.write(b'data: second\n\n')
        self.wfile.flush()

    def log_message(self, *args):
        pass

if __name__ == '__main__':
    ThreadingHTTPServer(('127.0.0.1', 9001), App).serve_forever()

预期结果:持续监听,无启动输出;每次请求发送两条事件,中间等待约一秒。结束实验按 Ctrl+C。以下片段示例放在 http:

nginx
server {
    listen 127.0.0.1:8080;
    server_name buffer.test;
    location = /buffered {
        proxy_buffering on;
        proxy_pass http://127.0.0.1:9001;
    }
    location = /stream {
        proxy_buffering off;
        gzip off;
        add_header Cache-Control "no-cache" always;
        proxy_read_timeout 5s;
        proxy_pass http://127.0.0.1:9001;
    }
}

检查并重载后分别执行:

bash
curl --noproxy '*' -N -sS http://127.0.0.1:8080/buffered
curl --noproxy '*' -N -sS http://127.0.0.1:8080/stream

预期结果:两次正文均为 data: first、空行、data: second、空行。此小响应实验中 buffered 通常等约一秒再集中出现;stream 的第一条及时出现,第二条约一秒后出现。-N 关闭 curl 自身输出缓冲,不能替代服务端配置。

三种机制不能混为一谈

机制 处理对象
proxy_buffering 当前请求的上游响应暂存
proxy_request_buffering 转发给上游前的客户端请求体
proxy_cache 按缓存规则供后续请求复用的响应

关闭响应缓冲不会自动关闭上传缓冲,也不等于禁用所有层的缓存。上游 X-Accel-Buffering 还可能影响响应缓冲,需要检查响应头与 proxy_ignore_headers 的实际策略。

按路径选择并验证端到端

普通下载可利用缓冲减轻上游被慢客户端拖住的时间,但需要预算内存和临时磁盘。流式事件通常更看重及时到达,关闭缓冲后也要考虑客户端慢读带来的背压与长连接占用。

应用必须实际 flush;CDN、其他代理和客户端也可能缓冲。应沿完整链路测量事件到达间隔,检查心跳、断开和超时,不要用本机两个事件的结果承诺公网流式延迟。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

代理缓冲到底在缓冲什么

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通