计算机网络 / 系统课时

负载均衡如何分发流量

负载均衡如何分发流量

当一台服务器无法独自承担全部访问量时,负载均衡器会把请求分配到多台后端。本课将沿着一次请求的路径,解释它依据地址、连接和请求内容做选择,并说明分发算法之外还必须考虑的稳定性问题。

学习目标

  • 理解负载均衡器在客户端与服务器集群之间的位置
  • 区分轮询、最少连接、哈希等常见分发策略
  • 说明健康检查和会话保持为什么会影响实际分发结果

负载均衡器处在统一入口

客户端通常只知道一个域名或一个虚拟 IP。请求先到负载均衡器,再由它从可用后端中选择一台服务器。后端扩容或下线时,客户端地址不必改变,这让服务可以在不中断入口的前提下调整容量。

负载均衡器分发请求到多台服务器

负载均衡可以工作在不同层次。四层负载均衡主要根据源地址、目标地址、端口和连接状态转发 TCP 或 UDP 流量;七层负载均衡能够读取 HTTP 路径、主机名、请求头等内容,因此可以把 /api 和 /images 分配给不同服务。

常见分发策略各有目标

策略 选择方式 适合场景 主要限制
轮询 按顺序依次选择服务器 后端性能接近、请求耗时相近 不感知当前忙闲程度
加权轮询 性能越强的服务器获得越多请求 后端规格不同 权重需要根据容量调整
最少连接 优先选择当前连接较少的服务器 请求耗时差异较大 连接数不一定等于真实负载
地址哈希 根据客户端地址计算固定结果 希望同一来源较稳定地命中同一节点 节点变化可能导致大量映射改变
内容路由 根据域名、路径或请求头选择后端组 微服务、灰度发布和多业务入口 只能在能解析应用层内容时使用

以轮询为例,若有 A、B、C 三台健康服务器,连续七个请求可能按 A、B、C、A、B、C、A 分配。它追求请求数量大致均衡,但不保证 CPU、内存或响应时间完全相同。

最少连接会观察当前连接数量。假设 A、B、C 分别有 8、3、5 个活动连接,新连接更可能交给 B。若 B 正在处理少量但计算量很大的任务,单看连接数仍可能判断失真,因此生产系统常把连接数、响应时间和权重结合起来。

一次请求的实际选择过程

负载均衡器收到请求后,通常先确认后端是否健康,再筛选满足路由条件的服务器,最后应用分发算法。选择完成后,它会建立或复用到后端的连接,并把响应返回给客户端。

因此,“轮询”并不意味着故障节点仍会机械地收到请求。只要健康检查已经把该节点标记为不可用,它就会先被排除。若配置了会话保持,同一用户还可能优先回到之前的节点,分发结果也就不会呈现严格轮流。

会话保持适合仍把登录状态保存在单机内存中的旧系统,但它会削弱流量均匀性,并让节点下线更复杂。更稳妥的做法通常是把会话存入共享存储,或使用无状态令牌,使任意健康节点都能处理请求。

健康检查决定可选节点

健康检查不能只确认端口能连接。应用进程可能仍在监听端口,却已经无法访问数据库或关键依赖。较可靠的检查接口应快速返回,并反映服务是否具备接收真实流量的条件。

故障摘除和恢复也需要阈值。一次超时就立刻下线可能造成频繁抖动;连续失败多次再摘除、连续成功多次再恢复,通常更稳定。生产环境还会设置连接超时、重试和熔断,但重试必须谨慎,避免把一个请求重复提交到多个后端。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

负载均衡如何分发流量

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通