架构与系统设计 / 系统课时

理解 Wait-for-Ready 行为

理解 Wait-for-Ready 行为

Wait-for-Ready 解决的不是失败后自动重试,而是连接暂时不可用时,这次 RPC 是否继续等待。弄清它与默认 fail-fast、Deadline 和 Retry 的边界后,就能在启动抖动或短暂无可用实例时延迟失败,同时避免请求无限排队。

学习目标

  • 说清默认 fail-fast 与 Wait-for-Ready 在通道暂不可用时的差异
  • 用 Deadline 为排队等待设置明确上限
  • 区分 Wait-for-Ready 与 Retry 分别处理哪一阶段的失败

默认调用何时会快速失败

gRPC 通道可能处于 IDLE、CONNECTING、READY、TRANSIENT_FAILURE 或 SHUTDOWN。历史上所谓 fail-fast,重点是:当通道已经进入 TRANSIENT_FAILURE 时,默认 RPC 不继续等待连接恢复,而是尽快以不可用状态结束。它并不意味着 RPC 在 IDLE 或 CONNECTING 时一定立即失败;调用仍可能触发建连并等待连接结果。

启用 Wait-for-Ready 后,RPC 在通道处于 TRANSIENT_FAILURE 时也可以继续等待,直到连接再次可用于发送。若通道已经 SHUTDOWN,或 RPC 的 Deadline 先到,调用仍会终止。

Fail-fast 与 Wait-for-Ready 对比时序

Wait-for-Ready 改变的是发送前等待

Wait-for-Ready 主要改变“当前还没有可用传输路径时”的调用行为:它允许 RPC 等待连接恢复,而不是因为通道进入 TRANSIENT_FAILURE 就立即结束。它不会把服务端返回的业务错误改成成功,也不会因为一次已发送的业务请求失败而自行重新执行该请求。

这与 Retry 的触发点不同:Retry 会在一次尝试失败且满足重试策略时创建新的尝试,可能再次把请求发送到服务端;Wait-for-Ready 则主要延长一次 RPC 在尚不能发送时的等待。两者可以同时使用,但排队预算、重试预算和写操作的幂等语义需要分别设计。

机制 主要处理的问题 是否会主动创建新的业务尝试
Wait-for-Ready 发送前暂时没有可用连接 否
Retry 已有尝试失败且满足重试条件 是
Deadline 限制整次 RPC 最长持续时间 否

用 Deadline 把等待时间封顶

开启 Wait-for-Ready 时必须同时考虑 Deadline,因为连接等待也消耗这次 RPC 的总时间预算。即使随后恢复到可发送状态,Deadline 也不会重新计时;剩余时间还要覆盖网络传输和服务端处理。

下面是 Go 的片段示例。它依赖已经通过 Protobuf 生成的 ordersv1.OrderServiceClient,并假设变量 client 已经连接到目标服务。

go
package main

import (
    "context"
    "log"
    "time"

    ordersv1 "example.com/orders/gen/orders/v1"
    "google.golang.org/grpc"
    "google.golang.org/grpc/status"
)

func getOrder(client ordersv1.OrderServiceClient) {
    // Deadline 同时限制连接等待、传输和服务端处理时间。
    ctx, cancel := context.WithTimeout(context.Background(), 1500*time.Millisecond)
    defer cancel()

    resp, err := client.GetOrder(
        ctx,
        &ordersv1.GetOrderRequest{OrderId: "order-123"},
        grpc.WaitForReady(true),
    )
    if err != nil {
        log.Printf("rpc failed: code=%s", status.Code(err))
        return
    }

    log.Printf("order=%s", resp.OrderId)
}

预期输出(后端在 1.5 秒内恢复,并在 Deadline 前完成调用):

text
<TIME> order=order-123

预期输出(Deadline 在连接恢复或 RPC 完成前到达):

text
<TIME> rpc failed: code=DeadlineExceeded

<TIME> 为日志时间,实际值会不同。这里的关键不是 1.5 秒本身,而是等待连接恢复的时间与后续执行时间共享同一个 RPC Deadline。

什么时候适合开启

Wait-for-Ready 适合“短暂不可用时多等一会儿,比立即失败更合理”的调用,例如批处理任务启动时依赖服务仍在拉起,或扩缩容过程中短时间没有可用后端。调用方接受有限等待,可以减少瞬时连接故障暴露给业务层的次数。

对强交互、低延迟接口则要谨慎。大量请求在不可用期间排队,会把故障从快速失败转化为更高的内存占用和尾延迟;如果上游需要尽快触发降级、熔断或备用路径,默认行为通常更合适。

验证时可以制造通道进入 TRANSIENT_FAILURE 的条件再发起调用:默认模式应较快返回不可用;启用 Wait-for-Ready 后,在较长 Deadline 内恢复服务应能成功,而 Deadline 先耗尽时应得到 DEADLINE_EXCEEDED。这组现象验证的是“有限时间内等待可发送条件”,而不是无限重试。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

理解 Wait-for-Ready 行为

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通