服务注册与分布式协调 / 系统课时

用权重调整实例流量比例

用权重调整实例流量比例

实例权重适合做渐进放量和临时降载:先把新实例调低,再逐步提高;发现异常时也可以快速降低其被选中的概率。本篇用 Nacos 3.x Admin API 修改两台实例权重,并用 Java SDK 抽样验证选择分布。

学习目标

  • 理解 weight 对实例选择概率的影响及其边界
  • 使用 Nacos 3.x Admin API 调整实例权重并核对结果
  • 通过客户端抽样验证权重变化是否真正影响实例选择

权重控制的是选择概率

假设两台实例都满足健康、启用和集群过滤条件,权重越高,被支持加权选择的客户端选中的概率通常越大。权重不是固定配额,因此短时间请求数不会严格等于比例。

实例 A 权重 实例 B 权重 长时间抽样的直观期望
1 1 约 50% : 50%
9 1 约 90% : 10%
1 0 B 通常不会进入运行时选择

修改两台实例的权重

以下以本地 Nacos 3.x 为例,服务名为 order-service,两台已注册且健康的实例分别为 10.0.0.11:8080 和 10.0.0.12:8080。把第一台调到 9.0,第二台保持 1.0。若环境启用了鉴权,还需要按部署方式附带有写权限的认证信息。

bash
curl -sS -X PUT 'http://127.0.0.1:8848/nacos/v3/admin/ns/instance/partial' \
  -d 'namespaceId=public' \
  -d 'groupName=DEFAULT_GROUP' \
  -d 'serviceName=order-service' \
  -d 'clusterName=DEFAULT' \
  -d 'ip=10.0.0.11' \
  -d 'port=8080' \
  -d 'ephemeral=true' \
  -d 'weight=9.0'

curl -sS -X PUT 'http://127.0.0.1:8848/nacos/v3/admin/ns/instance/partial' \
  -d 'namespaceId=public' \
  -d 'groupName=DEFAULT_GROUP' \
  -d 'serviceName=order-service' \
  -d 'clusterName=DEFAULT' \
  -d 'ip=10.0.0.12' \
  -d 'port=8080' \
  -d 'ephemeral=true' \
  -d 'weight=1.0'

预期输出

text
{"code":0,"message":"success","data":"ok"}
{"code":0,"message":"success","data":"ok"}

code=0 只说明更新请求成功,不能证明业务调用已经按 9:1 分配。还要继续检查消费者拿到的实例信息和实际选择结果。

用客户端抽样观察分布

下面使用 Nacos Java Client 3.2.3。先在 Maven 项目加入依赖;如果项目已经统一管理 Nacos Client 版本,应沿用项目版本,不要为了本示例单独覆盖依赖树。

xml
<dependency>
  <groupId>com.alibaba.nacos</groupId>
  <artifactId>nacos-client</artifactId>
  <version>3.2.3</version>
</dependency>

这段配置会让项目获得 Naming API。接着运行一个最小探针,连续选择 1000 次健康实例并统计结果。实际计数具有随机性,因此使用占位符表示。

java
import com.alibaba.nacos.api.NacosFactory;
import com.alibaba.nacos.api.PropertyKeyConst;
import com.alibaba.nacos.api.naming.NamingService;
import com.alibaba.nacos.api.naming.pojo.Instance;

import java.util.Map;
import java.util.Properties;
import java.util.TreeMap;

public class WeightProbe {
    public static void main(String[] args) throws Exception {
        Properties properties = new Properties();
        properties.setProperty(PropertyKeyConst.SERVER_ADDR, "127.0.0.1:8848");
        properties.setProperty(PropertyKeyConst.NAMESPACE, "public");

        NamingService naming = NacosFactory.createNamingService(properties);
        Map<String, Integer> counts = new TreeMap<>();

        try {
            // 多次选择才能观察概率分布,单次请求不能说明权重是否生效。
            for (int i = 0; i < 1000; i++) {
                Instance instance = naming.selectOneHealthyInstance(
                    "order-service", "DEFAULT_GROUP"
                );
                String key = instance.getIp() + ":" + instance.getPort();
                counts.merge(key, 1, Integer::sum);
            }

            counts.forEach((instance, count) ->
                System.out.println(instance + " -> " + count)
            );
        } finally {
            // 释放客户端持有的线程池和连接。
            naming.shutDown();
        }
    }
}

预期输出

text
10.0.0.11:8080 -> <COUNT_A>
10.0.0.12:8080 -> <COUNT_B>

<COUNT_A> 与 <COUNT_B> 每次都会变化;在实例持续健康、启用且没有其他过滤条件时,多次运行后应大体接近 9:1,而不是要求一次就精确得到 900:100。

灰度放量要逐级验证

灰度时不要直接把新实例从极低权重拉到满量。更稳妥的做法是先设置较小权重,观察错误率、延迟和资源水位,再逐级提高;出现异常时先降低权重并确认消费者已经收到新的实例信息。

降低权重也是软降载,已经建立的长连接、正在执行的请求以及消费者本地缓存不会瞬间消失。如果目标是停止新流量,应结合消费者刷新周期,并在确认无新增请求后再执行摘除或下线操作。

最终验收要看两层证据:Nacos 中的 weight 已经更新,以及真实消费者的请求分布确实发生变化。只完成前者而没有验证调用侧,不能证明灰度规则真正生效。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

用权重调整实例流量比例

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通