机器学习与深度学习 / 系统课时

处理聚类特征缩放

处理聚类特征缩放

学习目标

  • 理解量纲对距离的影响
  • 正确选择标准化或稳健缩放
  • 把缩放放入可复现的数据流程

距离为何被量纲支配

聚类常依赖欧氏距离。若一个特征范围为 0 到 100000,另一个为 0 到 10,前者的数值差几乎完全决定距离,即使后者在业务上同样重要。

例如用户年消费额和购买次数同时用于分群,未经缩放时结果可能只是按消费额大小切分,而忽略购买频率。

比较缩放前后的结果

python
import numpy as np
from sklearn.cluster import KMeans
from sklearn.preprocessing import StandardScaler

X = np.array([
    [1000, 2],
    [1100, 9],
    [9000, 3],
    [9200, 10],
], dtype=float)

raw_labels = KMeans(
    n_clusters=2,
    n_init=10,
    random_state=42,
).fit_predict(X)

X_scaled = StandardScaler().fit_transform(X)
scaled_labels = KMeans(
    n_clusters=2,
    n_init=10,
    random_state=42,
).fit_predict(X_scaled)

print("缩放前:", raw_labels.tolist())
print("缩放后:", scaled_labels.tolist())

预期结果:

text
缩放前的分组主要受第一列大数值特征影响。
缩放后第二列购买次数也会明显参与距离计算,标签组合可能改变。

簇编号可能互换,应比较哪些样本被分在一起,而不是比较编号本身。

选择缩放方法

StandardScaler 把特征转换为均值 0、标准差 1,适合大多数近似连续分布。MinMaxScaler 把范围压到固定区间,适合需要明确边界的场景,但对极端值敏感。RobustScaler 使用中位数和四分位距,对异常值更稳健。

缩放不等于业务加权。若某个特征确实更重要,可以在标准化后再乘业务权重,但权重应通过实验验证并记录。

防止流程不一致

缩放器只能在训练数据上 fit,再对验证集、测试集和新数据执行 transform。虽然无监督学习没有标签泄漏,但用未来数据计算均值和方差仍可能造成时间穿越和线上不一致。

应把缩放器和聚类模型保存在同一流水线中。线上分群时若忘记使用训练期缩放参数,得到的簇标签将失去可比性。

缩放后的解释

缩放后质心位于标准化空间,不能直接当作人民币金额或次数解释。生成业务画像时,应使用原始数据按簇聚合,或通过缩放器执行逆变换。报告中同时保留缩放规则和原始单位,避免运营人员误读负数标准分。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

处理聚类特征缩放

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通