机器学习与深度学习 / 系统课时
处理聚类特征缩放
处理聚类特征缩放
学习目标
- 理解量纲对距离的影响
- 正确选择标准化或稳健缩放
- 把缩放放入可复现的数据流程
距离为何被量纲支配
聚类常依赖欧氏距离。若一个特征范围为 0 到 100000,另一个为 0 到 10,前者的数值差几乎完全决定距离,即使后者在业务上同样重要。
例如用户年消费额和购买次数同时用于分群,未经缩放时结果可能只是按消费额大小切分,而忽略购买频率。
比较缩放前后的结果
python
import numpy as np
from sklearn.cluster import KMeans
from sklearn.preprocessing import StandardScaler
X = np.array([
[1000, 2],
[1100, 9],
[9000, 3],
[9200, 10],
], dtype=float)
raw_labels = KMeans(
n_clusters=2,
n_init=10,
random_state=42,
).fit_predict(X)
X_scaled = StandardScaler().fit_transform(X)
scaled_labels = KMeans(
n_clusters=2,
n_init=10,
random_state=42,
).fit_predict(X_scaled)
print("缩放前:", raw_labels.tolist())
print("缩放后:", scaled_labels.tolist())预期结果:
text
缩放前的分组主要受第一列大数值特征影响。
缩放后第二列购买次数也会明显参与距离计算,标签组合可能改变。簇编号可能互换,应比较哪些样本被分在一起,而不是比较编号本身。
选择缩放方法
StandardScaler 把特征转换为均值 0、标准差 1,适合大多数近似连续分布。MinMaxScaler 把范围压到固定区间,适合需要明确边界的场景,但对极端值敏感。RobustScaler 使用中位数和四分位距,对异常值更稳健。
缩放不等于业务加权。若某个特征确实更重要,可以在标准化后再乘业务权重,但权重应通过实验验证并记录。
防止流程不一致
缩放器只能在训练数据上 fit,再对验证集、测试集和新数据执行 transform。虽然无监督学习没有标签泄漏,但用未来数据计算均值和方差仍可能造成时间穿越和线上不一致。
应把缩放器和聚类模型保存在同一流水线中。线上分群时若忘记使用训练期缩放参数,得到的簇标签将失去可比性。
缩放后的解释
缩放后质心位于标准化空间,不能直接当作人民币金额或次数解释。生成业务画像时,应使用原始数据按簇聚合,或通过缩放器执行逆变换。报告中同时保留缩放规则和原始单位,避免运营人员误读负数标准分。
按自己的节奏,确认真正理解。