计算机网络 / 系统课时
负载均衡如何分发流量
负载均衡如何分发流量
当一台服务器无法独自承担全部访问量时,负载均衡器会把请求分配到多台后端。本课将沿着一次请求的路径,解释它依据地址、连接和请求内容做选择,并说明分发算法之外还必须考虑的稳定性问题。
学习目标
- 理解负载均衡器在客户端与服务器集群之间的位置
- 区分轮询、最少连接、哈希等常见分发策略
- 说明健康检查和会话保持为什么会影响实际分发结果
负载均衡器处在统一入口
客户端通常只知道一个域名或一个虚拟 IP。请求先到负载均衡器,再由它从可用后端中选择一台服务器。后端扩容或下线时,客户端地址不必改变,这让服务可以在不中断入口的前提下调整容量。

负载均衡可以工作在不同层次。四层负载均衡主要根据源地址、目标地址、端口和连接状态转发 TCP 或 UDP 流量;七层负载均衡能够读取 HTTP 路径、主机名、请求头等内容,因此可以把 /api 和 /images 分配给不同服务。
常见分发策略各有目标
| 策略 | 选择方式 | 适合场景 | 主要限制 |
|---|---|---|---|
| 轮询 | 按顺序依次选择服务器 | 后端性能接近、请求耗时相近 | 不感知当前忙闲程度 |
| 加权轮询 | 性能越强的服务器获得越多请求 | 后端规格不同 | 权重需要根据容量调整 |
| 最少连接 | 优先选择当前连接较少的服务器 | 请求耗时差异较大 | 连接数不一定等于真实负载 |
| 地址哈希 | 根据客户端地址计算固定结果 | 希望同一来源较稳定地命中同一节点 | 节点变化可能导致大量映射改变 |
| 内容路由 | 根据域名、路径或请求头选择后端组 | 微服务、灰度发布和多业务入口 | 只能在能解析应用层内容时使用 |
以轮询为例,若有 A、B、C 三台健康服务器,连续七个请求可能按 A、B、C、A、B、C、A 分配。它追求请求数量大致均衡,但不保证 CPU、内存或响应时间完全相同。
最少连接会观察当前连接数量。假设 A、B、C 分别有 8、3、5 个活动连接,新连接更可能交给 B。若 B 正在处理少量但计算量很大的任务,单看连接数仍可能判断失真,因此生产系统常把连接数、响应时间和权重结合起来。
一次请求的实际选择过程
负载均衡器收到请求后,通常先确认后端是否健康,再筛选满足路由条件的服务器,最后应用分发算法。选择完成后,它会建立或复用到后端的连接,并把响应返回给客户端。
因此,“轮询”并不意味着故障节点仍会机械地收到请求。只要健康检查已经把该节点标记为不可用,它就会先被排除。若配置了会话保持,同一用户还可能优先回到之前的节点,分发结果也就不会呈现严格轮流。
会话保持适合仍把登录状态保存在单机内存中的旧系统,但它会削弱流量均匀性,并让节点下线更复杂。更稳妥的做法通常是把会话存入共享存储,或使用无状态令牌,使任意健康节点都能处理请求。
健康检查决定可选节点
健康检查不能只确认端口能连接。应用进程可能仍在监听端口,却已经无法访问数据库或关键依赖。较可靠的检查接口应快速返回,并反映服务是否具备接收真实流量的条件。
故障摘除和恢复也需要阈值。一次超时就立刻下线可能造成频繁抖动;连续失败多次再摘除、连续成功多次再恢复,通常更稳定。生产环境还会设置连接超时、重试和熔断,但重试必须谨慎,避免把一个请求重复提交到多个后端。