高等数学 / 系统课时

数列极限

数列极限

数列极限回答的是:当项数不断增大时,一串按规则生成的数会不会稳定靠近某个确定值。理解这一点后,你就能更准确地判断迭代训练中的参数序列、损失序列是在收敛、振荡,还是持续发散。

学习目标

  • 理解数列收敛、极限值与发散的含义
  • 能根据数值变化判断常见数列的长期趋势
  • 能把数列极限与 AI 训练中的迭代过程联系起来

从数列看“越来越接近”

数列可以写成 {an}\{a_n\},其中 ana_n 表示第 nn 项。若无论误差要求多小,从某一项起,所有项到某个常数 AA 的距离都小于该误差,就称数列收敛到 AA。记号如下。

lim⁡n→∞an=A\lim_{n\to\infty} a_n=A

例如 an=1/na_n=1/n 的前几项是 1,1/2,1/3,1/4,…1,1/2,1/3,1/4,\ldots。这些数始终大于零,但会越来越接近零,因此它的极限是 00。极限描述的是长期趋势,不要求数列中的某一项真的等于极限值。

数列逐项逼近极限值的示意图

收敛与发散的判断

数列有确定极限时称为收敛,否则称为发散。发散并不只有“越来越大”这一种形式,常见情况包括:

  • an=na_n=n:不断增大,没有有限极限。
  • an=(−1)na_n=(-1)^n:在 −1-1 与 11 之间反复跳动,不能靠近同一个值。
  • an=(−1)n/na_n=(-1)^n/n:虽然正负交替,但振幅逐渐缩小,最终仍收敛到 00。

因此,判断数列是否收敛不能只看它是否单调,还要观察各项能否稳定聚集到同一个数附近。

用误差理解严格含义

“越来越接近”可以用误差表示。若无论给定多小的正数 ε\varepsilon,总能找到某个位置 NN,使所有 n>Nn>N 的项都满足下式。

∣an−A∣<ε|a_n-A|<\varepsilon

那么 AA 就是数列的极限。这里的重点是:进入误差范围后,后续所有项都必须留在范围内,而不是偶尔经过一次。

以 an=1/na_n=1/n 为例,若要求误差小于 0.010.01,只要取 N=100N=100,当 n>100n>100 时就有 1/n<0.011/n<0.01。这说明极限不是模糊的视觉感觉,而是可以用任意精度检验的稳定趋势。

AI 训练中的数列

梯度下降会产生参数序列 θ0,θ1,θ2,…\theta_0,\theta_1,\theta_2,\ldots,每轮训练还会得到损失序列 L0,L1,L2,…L_0,L_1,L_2,\ldots。若损失逐步靠近某个稳定值,可以说损失序列表现出收敛趋势。

但“损失收敛”不等于“模型一定最好”。它可能收敛到局部最优,也可能因为学习率过小而过早停滞。若损失持续增大,通常表示训练发散;若在多个值之间剧烈来回变化,则可能是学习率过大或优化过程不稳定。

判断训练是否稳定,应同时观察损失趋势、参数变化和验证集表现,不能只凭最后一次损失值下结论。

易混淆点

数列有界不一定收敛,例如 (−1)n(-1)^n 始终位于 [−1,1][-1,1],却没有极限。单调也不一定有有限极限,例如 an=na_n=n 单调递增但趋向无穷大。单调且有界是保证有限极限的一种充分条件。也有非单调的收敛数列。例如偶数项为 00、奇数项为 1/n1/n 的数列收敛到 00。它从偶数项到下一奇数项时会暂时远离 00,但所有项到 00 的距离都不超过 1/n1/n。

极限也不等于最终停止变化。1/n1/n 永远在变化,却仍然收敛到 00。在训练中,参数每轮仍有微小更新,也可能已经进入工程上可接受的收敛区间。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

数列极限

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通