Web 服务器与网关 / 系统课时
把 API 代理到多个后端实例
把 API 代理到多个后端实例
静态站点之外,API 可以由多个实例共同提供服务,而浏览器仍只访问统一域名。本篇运行两个可区分的教学后端,保留 /api 路径转发并观察实例分布,再说明重试、状态共享和连接池不应由示例的成功响应代替验收。
学习目标
- 配置 upstream 并保留约定的 API 路径。
- 从响应与日志确认请求确实到达多个实例。
- 区分简单分发、连接复用与业务可用性。
准备两个只读实验后端
需要 Python 3、Nginx 1.28、curl 及空闲回环 9001、9002、8080。保存以下完整程序为 backend.py;它只提供本章只读练习端点,没有真实登录、数据库或生产认证:
from http.server import BaseHTTPRequestHandler, ThreadingHTTPServer
from urllib.parse import urlsplit
import json
import sys
class App(BaseHTTPRequestHandler):
def do_GET(self):
path = urlsplit(self.path).path
if path == '/api/health':
data = f'{self.server.label} {self.path}\n'.encode()
elif path == '/api/whoami':
data = json.dumps({
'host': self.headers.get('Host'),
'ip': self.headers.get('X-Real-IP'),
'forwarded': self.headers.get('X-Forwarded-For'),
'proto': self.headers.get('X-Forwarded-Proto'),
'id': self.headers.get('X-Request-ID'),
}).encode()
elif path == '/api/expensive':
data = f'work={sum(range(100000))}\n'.encode()
else:
self.send_error(404)
return
self.send_response(200)
self.send_header('Content-Length', str(len(data)))
self.end_headers()
self.wfile.write(data)
def log_message(self, *args):
pass
if __name__ == '__main__':
label, port = sys.argv[1:]
server = ThreadingHTTPServer(('127.0.0.1', int(port)), App)
server.label = label
server.serve_forever()在两个终端分别执行 python3 backend.py A 9001 与 python3 backend.py B 9002。预期结果:各自持续监听且无启动输出;请求 /api/health 返回相应标签与实际 URI。实验结束分别 Ctrl+C。
加入服务器组和精确边界
以下片段示例放在 http;真实整合时保留上一课前端规则,把其 API 拒绝块替换为代理块。这里独立展示 API 站点,访问日志目录应已创建且可写:
upstream entry_api {
server 127.0.0.1:9001;
server 127.0.0.1:9002;
keepalive 8;
}
server {
listen 127.0.0.1:8080;
server_name app.test;
location = /api { return 308 /api/$is_args$args; }
location ^~ /api/ {
proxy_http_version 1.1;
proxy_set_header Connection "";
proxy_set_header Host $host;
proxy_pass http://entry_api;
}
location / { return 404; }
}proxy_pass 后没有 URI 部分,因此 /api/health?check=1 原样交给后端。默认轮询在多个 Worker 各自的选择状态下不必表现为严格 ABAB;upstream keepalive 是每个 Worker 的空闲连接缓存,不是整个站点最多八个上游连接。官方 upstream 说明
验证两台实例都参与处理

检查并重载后执行:
for i in $(seq 1 8); do
curl --noproxy '*' --resolve app.test:8080:127.0.0.1 -sS 'http://app.test:8080/api/health?check=1'
done预期结果:八行中出现 A /api/health?check=1 和 B /api/health?check=1,顺序与数量可不同。两种响应都应为 200;还应检查未知 API 保持 404,而非回退成前端 HTML。
进一步核对业务状态和失败行为
教学后端用 HTTP/1.0 响应,不证明已经复用了上游长连接;生产后端需要支持相应协议和持久连接,再用连接统计验证。Session、缓存、上传状态和事务也不会因加入 upstream 自动共享。
加入上游地址、状态与耗时日志,受控模拟单实例异常,观察安全请求的重试和恢复。具有副作用的接口必须独立设计幂等与重试预算;GET 健康检查的成功不能保证订单等业务可安全重放。