架构与系统设计 / 系统课时
看懂 Channel、Subchannel 与一次 RPC
看懂 Channel、Subchannel 与一次 RPC
要理解 gRPC 的重试和负载均衡,不能把 Channel 当成一条 TCP 连接。本篇建立 Channel、Resolver、Subchannel、HTTP/2 与 RPC attempt 的共同模型,并用双实例实验观察一次调用怎样选中后端。
学习目标
- 说清 Channel、地址、Subchannel、HTTP/2 连接和 RPC attempt 的职责边界
- 按一次 RPC 的真实路径理解解析、挑选后端、建立流和返回状态
- 用本地双实例实验观察同一 Channel 上的按调用负载均衡
先建立对象关系
Channel 是应用创建 Stub 时依赖的长期对象,代表“如何访问某个逻辑服务”。它持有名称解析、负载均衡和连接状态等运行时信息,因此生产代码通常复用 Channel,而不是每次 RPC 都新建一个。
Resolver 把 Channel 的目标名称解析成一个或多个地址,并可能同时提供 Service Config。负载均衡策略接收这些结果,维护候选后端,并在一次 RPC attempt 需要发送时挑选可用路径;实现内部通常通过 Subchannel 跟踪某个后端地址的连通状态。
Subchannel 也不应简单等同于一个 socket。它是 gRPC 内部的连接管理抽象,下面的传输可以建立、失效和重建。一个 Channel 可以对应零个或多个 HTTP/2 连接;对一次具体的 RPC attempt 来说,最终会在被选中的可用传输上创建一个 HTTP/2 stream。

一次 RPC 怎样落到连接上
一次 unary RPC 可以按下面的路径理解:
- 应用通过 Stub 在既有 Channel 上发起逻辑 RPC,并带上 metadata、deadline 等调用参数。
- Channel 使用 Resolver 的地址结果和 Service Config,负载均衡策略据此维护候选 Subchannel。
- picker 为当前 attempt 选择一个可用 Subchannel。若暂时没有可用后端,调用默认可能直接失败;启用
wait_for_ready时,则可以等待后端变为可用,直到 deadline 到期。 - 被选中的 Subchannel 使用已有 HTTP/2 连接,或先完成连接建立,再为该 attempt 创建新的 HTTP/2 stream。
- 响应消息和 trailing status 返回后,这个 attempt 结束;如果启用了重试且当前失败满足策略条件,同一个逻辑 RPC 还可能启动新的 attempt。
因此三个数量不能混为一谈:一个 Channel 可以承载很多 RPC,一个 HTTP/2 连接可以并发承载很多 stream,而一个逻辑 RPC 在发生重试时又可能产生多个 attempt。
用双实例观察按调用挑选
下面的自包含 Python 程序启动两个本地 gRPC 后端,并使用 gRPC Core 支持的 ipv4: resolver 同时提供两个地址;Channel 的 Service Config 选择 round_robin。每个后端返回自己的名字,因此可以直接看到多个 RPC 被分配到不同后端。前置条件是 Python 3 已安装 grpcio。
from concurrent import futures
import json
import time
import grpc
def start_backend(name: str):
# 两个后端共用同一方法名,只用响应内容标识实例。
server = grpc.server(futures.ThreadPoolExecutor(max_workers=2))
def who(_request: bytes, _context: grpc.ServicerContext) -> bytes:
return name.encode()
method = grpc.unary_unary_rpc_method_handler(
who,
request_deserializer=lambda data: data,
response_serializer=lambda data: data,
)
server.add_generic_rpc_handlers(
(grpc.method_handlers_generic_handler("demo.Backend", {"Who": method}),)
)
port = server.add_insecure_port("127.0.0.1:0")
server.start()
return server, port
server_a, port_a = start_backend("backend-a")
server_b, port_b = start_backend("backend-b")
# Service Config 要求客户端在 READY 后端之间轮询。
service_config = json.dumps(
{"loadBalancingConfig": [{"round_robin": {}}]}
)
target = f"ipv4:127.0.0.1:{port_a},127.0.0.1:{port_b}"
# 应用只创建一个 Channel;两个地址由内部连接管理对象维护。
channel = grpc.insecure_channel(
target,
options=(("grpc.service_config", service_config),),
)
grpc.channel_ready_future(channel).result(timeout=3)
time.sleep(1) # 给本地两个后端都进入 READY 留出时间。
who = channel.unary_unary(
"/demo.Backend/Who",
request_serializer=lambda data: data,
response_deserializer=lambda data: data,
)
for _ in range(6):
print(who(b"", timeout=1).decode())
channel.close()
server_a.stop(0).wait()
server_b.stop(0).wait()预期输出可能如下:
backend-a
backend-b
backend-a
backend-b
backend-a
backend-b首个后端以及具体顺序受连接就绪时机影响;当两个后端都 READY 后,round_robin 会在可用后端之间按调用轮转。这里始终只有一个应用 Channel,却同时维护了两个后端方向的连接状态,这正是“Channel 不是单连接”的直接证据。
重试时不要把 RPC 和 attempt 混在一起
从最简单路径看,一次 unary RPC 只有一个 attempt。即使没有显式 Retry Policy,gRPC 在少数满足严格条件的底层失败场景中也可能执行透明重试;配置 Retry Policy 后,同一个逻辑 RPC 则可能产生 Attempt 1、Attempt 2 等多个具体尝试。
每个 attempt 都有自己的传输过程和 HTTP/2 stream。若某次失败符合重试策略、尚未超过尝试次数并且 deadline 仍有余量,后续 attempt 可以再次经过负载均衡选择;否则逻辑 RPC 会直接结束。对 streaming RPC 也要注意:流一旦建立,不会因为负载均衡策略变化而在中途自动迁移到另一个后端。
可以用一句话检查自己的模型:Channel 管长期访问路径,Subchannel 管后端连通性,HTTP/2 connection 承载 stream,而 attempt 才是一次具体的 RPC 传输尝试。