高等数学 / 系统课时
梯度向量
梯度向量
多元函数在一个点附近可能沿不同方向以不同速度变化。梯度把所有一阶偏导数组合成一个向量,不仅给出最敏感的变化方向,还能直接计算任意方向上的变化率。
学习目标
- 写出二元和多元函数的梯度
- 解释梯度方向与最大增长率的关系
- 用梯度判断上升、下降和等值线法向方向
梯度是什么
对二元函数 ,梯度定义为由两个偏导数组成的向量:
对 元函数 ,梯度写成:
梯度的每个分量分别描述函数沿对应坐标轴正方向的变化率。把这些分量放进同一个向量后,就能统一描述局部的一阶变化。
为什么指向增长最快方向
设函数在目标点可微、梯度非零,且 按欧氏长度归一化。此时方向导数为
其中 是梯度与方向向量的夹角。因为 ,当 时方向导数取得最大值 。这说明梯度方向就是函数增长最快的方向,梯度的模就是最大增长率。
沿负梯度的单位方向,方向导数达到最小值 。与梯度垂直的方向导数为零,意味着沿该方向的一阶变化为零。这里比较的是起点的变化率,有限步长后的函数值还要重新计算。

主示例
设 ,求点 处的梯度,并判断最大增长方向和最大增长率。先分别求偏导:
因此:
最大增长方向使用单位向量表示:
最大增长率等于梯度的模:
若沿 移动一小段距离 ,函数值的增量约为 。反方向给出同样大小的下降速率。
与等值线和 AI 优化的联系
等值线上的函数值保持不变,因此沿等值线切线方向的方向导数为零。在梯度非零且等值线光滑的点,梯度与切线方向正交,因而给出等值线的法向量。这一关系能帮助我们从图形上判断函数在哪个方向上升最快。
在机器学习中,损失函数的梯度表示参数发生微小变化时损失最敏感的方向。梯度下降法选择负梯度方向更新参数,是因为该方向在局部一阶近似下能让损失下降最快。实际训练还会结合学习率控制每次移动的距离。
边界与易混淆点
函数可微且梯度为零时,每个单位方向的一阶导数都为零,无法选出唯一的最速方向。该点的局部形状需要结合二阶信息或周围函数值判断。
坐标缩放会改变各偏导的数值。例如 的梯度为 。若把第二个坐标换成 ,同一函数写成 ,其梯度分量变为 。比较最速方向时,要明确采用哪套坐标及长度度量。