AI 与工程数学 / 系统课时
用强凸性判断最优解唯一性
用强凸性判断最优解唯一性
凸性保证局部最小值不会比全局最小值更差,但一个凸函数仍可能有一整段最优解。强凸性进一步给函数曲率设置正的下界,使目标函数不能出现平坦的最优平台,从而为“全局最优解唯一”提供直接保障。
学习目标
- 理解强凸参数 对函数曲率下界的含义
- 说明强凸函数为何至多只有一个全局最小值
- 联系条件数判断曲率差异对梯度法收敛速度的影响
强凸比普通凸多了什么
若存在常数 ,使任意 都满足
则称 为 -强凸函数。与普通凸函数的一阶下界相比,强凸条件多了一个二次项 。
这个二次项要求函数离开切点后至少以一定速度向上弯。 越大,允许的最小曲率越高; 越接近 0,函数就越可能显得扁平。

为什么强凸能推出唯一最优解
假设强凸函数存在两个不同的全局最小点 ,且它们的函数值都等于最优值 。取两点中点 ,强凸性给出:
因为 且 ,最后一项严格大于 0,于是得到 。这与 已经是全局最小值矛盾,所以两个不同的全局最小点不可能同时存在。
用 Hessian 快速判断强凸性
对于二阶连续可微函数,若在整个定义域上都有
就可以确认它是强凸函数。直观上,这要求 Hessian 的最小特征值始终不小于某个正数。
以二次函数 为例,当对称矩阵 正定时,函数强凸,而且强凸参数可以取 的最小特征值。
下面直接计算一个二维例子的特征值。
python
import numpy as np
Q = np.array([
[4.0, 1.0],
[1.0, 3.0]
])
eigenvalues = np.linalg.eigvalsh(Q)
mu = float(eigenvalues.min())
L = float(eigenvalues.max())
condition_number = L / mu
print(f"mu = {mu:.3f}")
print(f"L = {L:.3f}")
print(f"kappa = {condition_number:.3f}")预期输出:
text
mu = 2.382
L = 4.618
kappa = 1.939因为最小特征值大于 0,所以这个二次函数是强凸的,最优解唯一。这里的动态数值由固定矩阵决定,因此输出可以精确复现。
强凸性与收敛速度的联系
仅知道 还不足以判断梯度法快不快。若梯度同时是 -Lipschitz 连续的,常用条件数
衡量不同方向上的曲率差异。 接近 1 时,各方向曲率比较均衡,梯度下降通常更容易快速靠近最优点; 很大时,等高线会非常狭长,算法容易在陡峭方向来回摆动,而在平缓方向推进较慢。
因此,强凸性首先提供唯一解保障,而 才进一步描述问题是否“好求”。实际建模中,如果 Hessian 存在零特征值,就不能直接宣称强凸;若只是普通凸,应接受最优解可能不唯一,并在需要唯一解时考虑正则化等处理。
按自己的节奏,确认真正理解。