AI 与工程数学 / 系统课时

建立优化实验复现与验收流程

建立优化实验复现与验收流程

一次优化求解能得到结果,不等于实验可复现、结果可信。本课把固定数据、初值来源、随机种子、求解器参数、停止条件和最终状态保存下来,并用最优值、可行性、梯度残差与敏感性四类检查形成可执行的验收流程。

学习目标

  • 固定影响结果的模型数据、随机种子、初值生成方式和求解器参数。
  • 保存实验配置、求解器状态与结果,并从保存配置重新运行验证复现性。
  • 用最优值、可行性、梯度残差和敏感性检查判断结果是否可以验收。

先定义可复现边界

示例问题最小化点 (x1,x2)(x_1,x_2) 到目标 (2,1)(2,1) 的平方距离,并要求 x1+x2=3x_1+x_2=3。理论最优解恰好是 (2,1)(2,1),最优值为 0。求解器采用投影梯度法:先把随机初值投影到约束平面,再只沿满足等式约束的切向方向更新。

真正需要保存的不只是最终解。模型参数、随机种子、求解器名称、步长、容差和最大迭代数都会改变实验行为;若其中任何一项只存在于操作者记忆里,之后就无法证明两次运行使用的是同一实验条件。

优化实验复现与验收流程

把配置、状态和验收写进脚本

下面脚本固定随机种子为 42,并将配置保存为 experiment.json、求解器末状态保存为 solver-state.npz、最终结果保存为 result.json。随后重新读取配置再运行一次,最后执行四类验收检查。

python
from pathlib import Path
import json
import numpy as np

artifact_dir = Path("artifacts")
artifact_dir.mkdir(exist_ok=True)

config = {
    "model": {"target": [2.0, 1.0], "rhs": 3.0},
    "seed": 42,
    "solver": {
        "name": "projected-gradient",
        "step_size": 0.5,
        "tol": 1e-10,
        "max_iter": 200
    }
}

def solve(cfg, rhs_override=None):
    target = np.array(cfg["model"]["target"], dtype=float)
    rhs = cfg["model"]["rhs"] if rhs_override is None else rhs_override
    rng = np.random.default_rng(cfg["seed"])
    x = rng.normal(size=2)

    # 先投影到 x1 + x2 = rhs,保证整个迭代过程保持可行。
    x = x + (rhs - x.sum()) / 2.0
    step = cfg["solver"]["step_size"]
    tol = cfg["solver"]["tol"]

    for iteration in range(cfg["solver"]["max_iter"] + 1):
        grad = x - target
        projected_grad = grad - grad.mean()
        if np.linalg.norm(projected_grad) < tol:
            break
        x = x - step * projected_grad

    value = 0.5 * np.dot(x - target, x - target)
    return {
        "x": x,
        "iteration": iteration,
        "value": value,
        "feasibility": abs(x.sum() - rhs),
        "projected_grad_norm": np.linalg.norm(projected_grad)
    }

with (artifact_dir / "experiment.json").open("w", encoding="utf-8") as f:
    json.dump(config, f, ensure_ascii=False, indent=2)

first = solve(config)
np.savez(
    artifact_dir / "solver-state.npz",
    x=first["x"],
    iteration=first["iteration"]
)
with (artifact_dir / "result.json").open("w", encoding="utf-8") as f:
    json.dump(
        {"x": first["x"].tolist(), "value": first["value"]},
        f,
        ensure_ascii=False,
        indent=2
    )

with (artifact_dir / "experiment.json").open(encoding="utf-8") as f:
    loaded = json.load(f)
reproduced = solve(loaded)

# 用约束右端项的小扰动检查解对输入变化的敏感度。
delta = 1e-4
perturbed = solve(loaded, rhs_override=loaded["model"]["rhs"] + delta)
sensitivity = np.linalg.norm(perturbed["x"] - first["x"]) / delta

checks = {
    "same_solution": bool(np.allclose(first["x"], reproduced["x"], atol=1e-12)),
    "optimal_value": bool(first["value"] < 1e-12),
    "feasibility": bool(first["feasibility"] < 1e-10),
    "gradient": bool(first["projected_grad_norm"] < loaded["solver"]["tol"]),
    "sensitivity": bool(abs(sensitivity - 1 / np.sqrt(2.0)) < 1e-3)
}

print(f"x={np.round(first['x'], 8).tolist()}")
print(f"iteration={first['iteration']}")
print(f"value={first['value']:.3e}")
print(f"feasibility={first['feasibility']:.3e}")
print(f"projected_grad_norm={first['projected_grad_norm']:.3e}")
print(f"sensitivity={sensitivity:.6f}")
print(f"checks={checks}")
print(f"artifacts={sorted(p.name for p in artifact_dir.iterdir())}")

预期输出如下。浮点数末位可能因 NumPy 与硬件环境略有差异,但验收布尔值应全部为 True。

text
x=[2.0, 1.0]
iteration=32
value=1.610e-21
feasibility=4.441e-16
projected_grad_norm=5.675e-11
sensitivity=0.707107
checks={'same_solution': True, 'optimal_value': True, 'feasibility': True, 'gradient': True, 'sensitivity': True}
artifacts=['experiment.json', 'result.json', 'solver-state.npz']

四类验收分别在查什么

最优值检查确认目标值达到已知基准或业务允许的阈值;它回答“结果够不够好”。本例理论最优值为 0,因此用 10−1210^{-12} 作为数值容差,而不是要求浮点结果严格等于 0。

可行性检查确认约束是否满足;它回答“这个解能不能用”。本例检查 ∣x1+x2−3∣|x_1+x_2-3|。一个目标值很漂亮但违反库存、容量、预算或守恒约束的解,仍然必须判失败。

梯度检查确认是否接近一阶驻点。约束问题不能直接要求原始梯度为零,本例检查投影到可行切空间后的梯度范数,这比只看“求解器返回 success”更接近数学上的停止依据。

敏感性检查给输入一个很小扰动,观察解是否出现异常跳变。本例把约束右端项增加 10−410^{-4},理论灵敏度为 1/21/\sqrt{2},脚本得到约 0.707107。若微小输入变化导致解剧烈波动,应继续检查病态性、缩放或模型本身。

形成可交付的实验记录

复现实验时,应从保存的 experiment.json 重建运行,而不是手工重新输入参数;solver-state.npz 用于保留最终迭代状态,result.json 则保存面向后续分析的结果。团队环境中还应把代码版本、依赖版本和运行平台作为实验元数据一并管理。

只有“相同配置可重现”并且四类验收都通过,结果才适合进入报告、上线决策或后续比较。若某项失败,应保留失败产物和配置并定位原因,而不是只改一个数字重新运行后覆盖原记录。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

建立优化实验复现与验收流程

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通