Redis 与缓存 / 系统课时

实现接口限流

实现接口限流

本课使用 Redis Sorted Set 与 Lua 实现滑动时间窗口限流。完成后,你能在一次原子操作中清理过期请求、统计窗口内数量并决定是否放行,避免并发下的计数竞争。

学习目标

  • 理解滑动窗口限流的判断过程
  • 使用 Lua 保证清理、计数和写入原子执行
  • 正确设计限流键、窗口时间和失败策略

定义限流规则

假设同一用户在 60 秒内最多访问 3 次。Sorted Set 的 score 保存请求时间戳,member 保存“时间戳 + 请求 ID”。每次判断先删除窗口外记录,再统计当前数量,窗口区间按 (now - window, now] 计算。

Lua 滑动窗口限流时序图

编写原子限流脚本

下面的 Python 程序内嵌 Lua,并使用固定时间戳模拟五次请求,因此输出可重复。生产环境可传入可信的服务端毫秒时间,也可在 Lua 中调用 Redis TIME,避免应用节点时钟差异。

python
import redis

client = redis.Redis(host="localhost", port=6379, decode_responses=True)
key = "prod:limit:user:v1:u1001:order-query"

lua = """
local key = KEYS[1]
local now = tonumber(ARGV[1])
local window_ms = tonumber(ARGV[2])
local limit = tonumber(ARGV[3])
local request_id = ARGV[4]

redis.call('ZREMRANGEBYSCORE', key, 0, now - window_ms)
local current = redis.call('ZCARD', key)

if current >= limit then
    return {0, current}
end

redis.call('ZADD', key, now, tostring(now) .. '-' .. request_id)
redis.call('PEXPIRE', key, window_ms)
return {1, current + 1}
"""

client.delete(key)

timestamps = [1000, 2000, 3000, 4000, 62000]
for index, now in enumerate(timestamps, start=1):
    allowed, count = client.eval(lua, 1, key, now, 60000, 3, f"r{index}")
    print(f"request={index} allowed={bool(allowed)} count={count}")

预期输出

text
request=1 allowed=True count=1
request=2 allowed=True count=2
request=3 allowed=True count=3
request=4 allowed=False count=3
request=5 allowed=True count=2

第五次请求发生在 62 秒,前两次已滑出最近 60 秒窗口,因此窗口中保留第三次请求,再加入第五次后数量为 2。

设计键与返回值

限流键通常包含环境、接口、主体类型和主体 ID,例如用户、IP 或商户号。不要把所有用户写入同一个 Sorted Set,否则清理和计数会形成热 Key。

脚本返回是否放行和当前计数。实际接口还可返回剩余额度与建议重试时间,但计算规则必须与窗口模型一致。拒绝响应可使用 HTTP 429,并由网关或应用统一添加限流提示。

处理异常与性能边界

Redis 不可用时应明确选择“失败开放”还是“失败关闭”。普通查询接口通常失败开放并配合本地限流;支付提交等高风险接口可失败关闭,但必须评估误拒绝影响。

滑动窗口精度高,但每次请求都会保存一个成员。高流量场景可改用固定窗口、令牌桶或分桶滑动窗口,减少内存和命令成本。Lua 脚本必须保持短小,禁止在单次执行中扫描大量成员。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

实现接口限流

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通