服务注册与分布式协调 / 系统课时
用权重调整实例流量比例
用权重调整实例流量比例
实例权重适合做渐进放量和临时降载:先把新实例调低,再逐步提高;发现异常时也可以快速降低其被选中的概率。本篇用 Nacos 3.x Admin API 修改两台实例权重,并用 Java SDK 抽样验证选择分布。
学习目标
- 理解
weight对实例选择概率的影响及其边界 - 使用 Nacos 3.x Admin API 调整实例权重并核对结果
- 通过客户端抽样验证权重变化是否真正影响实例选择
权重控制的是选择概率
假设两台实例都满足健康、启用和集群过滤条件,权重越高,被支持加权选择的客户端选中的概率通常越大。权重不是固定配额,因此短时间请求数不会严格等于比例。
| 实例 A 权重 | 实例 B 权重 | 长时间抽样的直观期望 |
|---|---|---|
| 1 | 1 | 约 50% : 50% |
| 9 | 1 | 约 90% : 10% |
| 1 | 0 | B 通常不会进入运行时选择 |
修改两台实例的权重
以下以本地 Nacos 3.x 为例,服务名为 order-service,两台已注册且健康的实例分别为 10.0.0.11:8080 和 10.0.0.12:8080。把第一台调到 9.0,第二台保持 1.0。若环境启用了鉴权,还需要按部署方式附带有写权限的认证信息。
curl -sS -X PUT 'http://127.0.0.1:8848/nacos/v3/admin/ns/instance/partial' \
-d 'namespaceId=public' \
-d 'groupName=DEFAULT_GROUP' \
-d 'serviceName=order-service' \
-d 'clusterName=DEFAULT' \
-d 'ip=10.0.0.11' \
-d 'port=8080' \
-d 'ephemeral=true' \
-d 'weight=9.0'
curl -sS -X PUT 'http://127.0.0.1:8848/nacos/v3/admin/ns/instance/partial' \
-d 'namespaceId=public' \
-d 'groupName=DEFAULT_GROUP' \
-d 'serviceName=order-service' \
-d 'clusterName=DEFAULT' \
-d 'ip=10.0.0.12' \
-d 'port=8080' \
-d 'ephemeral=true' \
-d 'weight=1.0'预期输出
{"code":0,"message":"success","data":"ok"}
{"code":0,"message":"success","data":"ok"}code=0 只说明更新请求成功,不能证明业务调用已经按 9:1 分配。还要继续检查消费者拿到的实例信息和实际选择结果。
用客户端抽样观察分布
下面使用 Nacos Java Client 3.2.3。先在 Maven 项目加入依赖;如果项目已经统一管理 Nacos Client 版本,应沿用项目版本,不要为了本示例单独覆盖依赖树。
<dependency>
<groupId>com.alibaba.nacos</groupId>
<artifactId>nacos-client</artifactId>
<version>3.2.3</version>
</dependency>这段配置会让项目获得 Naming API。接着运行一个最小探针,连续选择 1000 次健康实例并统计结果。实际计数具有随机性,因此使用占位符表示。
import com.alibaba.nacos.api.NacosFactory;
import com.alibaba.nacos.api.PropertyKeyConst;
import com.alibaba.nacos.api.naming.NamingService;
import com.alibaba.nacos.api.naming.pojo.Instance;
import java.util.Map;
import java.util.Properties;
import java.util.TreeMap;
public class WeightProbe {
public static void main(String[] args) throws Exception {
Properties properties = new Properties();
properties.setProperty(PropertyKeyConst.SERVER_ADDR, "127.0.0.1:8848");
properties.setProperty(PropertyKeyConst.NAMESPACE, "public");
NamingService naming = NacosFactory.createNamingService(properties);
Map<String, Integer> counts = new TreeMap<>();
try {
// 多次选择才能观察概率分布,单次请求不能说明权重是否生效。
for (int i = 0; i < 1000; i++) {
Instance instance = naming.selectOneHealthyInstance(
"order-service", "DEFAULT_GROUP"
);
String key = instance.getIp() + ":" + instance.getPort();
counts.merge(key, 1, Integer::sum);
}
counts.forEach((instance, count) ->
System.out.println(instance + " -> " + count)
);
} finally {
// 释放客户端持有的线程池和连接。
naming.shutDown();
}
}
}预期输出
10.0.0.11:8080 -> <COUNT_A>
10.0.0.12:8080 -> <COUNT_B><COUNT_A> 与 <COUNT_B> 每次都会变化;在实例持续健康、启用且没有其他过滤条件时,多次运行后应大体接近 9:1,而不是要求一次就精确得到 900:100。
灰度放量要逐级验证
灰度时不要直接把新实例从极低权重拉到满量。更稳妥的做法是先设置较小权重,观察错误率、延迟和资源水位,再逐级提高;出现异常时先降低权重并确认消费者已经收到新的实例信息。
降低权重也是软降载,已经建立的长连接、正在执行的请求以及消费者本地缓存不会瞬间消失。如果目标是停止新流量,应结合消费者刷新周期,并在确认无新增请求后再执行摘除或下线操作。
最终验收要看两层证据:Nacos 中的 weight 已经更新,以及真实消费者的请求分布确实发生变化。只完成前者而没有验证调用侧,不能证明灰度规则真正生效。