机器学习与深度学习 / 系统课时
使用网格搜索
使用网格搜索
学习目标
- 构建有限且有意义的参数网格
- 使用交叉验证选择最佳组合
- 读取最佳参数和完整搜索结果
网格搜索适合什么
网格搜索会枚举参数列表的笛卡尔积,对每个组合执行交叉验证。它适合参数数量少、候选值明确、计算预算可控的任务。若有 3 个参数,每个 4 个值,就需要评估 64 个组合,再乘以交叉验证折数。
网格不应盲目铺得很密。先根据基线和算法机制选少量候选值,再围绕较好的区域细化。
在流水线上搜索
python
from sklearn.datasets import load_breast_cancer
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import GridSearchCV, train_test_split
from sklearn.pipeline import Pipeline
from sklearn.preprocessing import StandardScaler
X, y = load_breast_cancer(return_X_y=True)
X_train, X_test, y_train, y_test = train_test_split(
X, y,
test_size=0.2,
stratify=y,
random_state=42,
)
pipeline = Pipeline([
("scale", StandardScaler()),
("model", LogisticRegression(max_iter=2000)),
])
param_grid = {
"model__C": [0.01, 0.1, 1.0, 10.0],
"model__class_weight": [None, "balanced"],
}
search = GridSearchCV(
pipeline,
param_grid,
cv=5,
scoring="roc_auc",
n_jobs=-1,
refit=True,
)
search.fit(X_train, y_train)
print("最佳参数:", search.best_params_)
print(f"最佳交叉验证 AUC: {search.best_score_:.3f}")
print(f"测试集 AUC: {search.score(X_test, y_test):.3f}")预期结果:
text
输出最佳参数、最佳交叉验证 AUC 和测试集 AUC。
最佳参数与具体数值可能随 scikit-learn 版本略有变化。search.score 会沿用 GridSearchCV 的 scoring="roc_auc",因此这里计算的是测试集 AUC。
读取完整搜索结果
cv_results_ 包含每个组合的平均验证分数、标准差、排名和训练时间。若两个组合分数接近,应优先选择正则化更强、训练更快或配置更简单的方案,而不是只比较小数点后三位。
还要检查最佳参数是否落在网格边界。若最佳 C 恰好是最大候选值 10,说明有效区域可能在网格之外,可以扩展上界后再验证。
正确使用测试集
best_score_ 来自训练集内部交叉验证,测试集只用于搜索结束后的最终评估。若测试结果不满意,不应继续围绕同一测试集反复改网格;应重新设计验证过程,或保留新的时间外测试集。
网格搜索得到的是当前候选范围内的最佳组合,不是理论上的全局最佳。搜索成本和最终收益都需要记录。
控制搜索成本
开始前可用“组合数 × 折数 × 单次训练时间”估算总耗时。例如 8 个组合、5 折意味着至少训练 40 次,refit=True 还会用最佳参数再训练一次。正式运行应记录并行度,避免在共享机器上占满全部资源。
按自己的节奏,确认真正理解。