高等数学 / 系统课时
数列极限
数列极限
数列极限回答的是:当项数不断增大时,一串按规则生成的数会不会稳定靠近某个确定值。理解这一点后,你就能更准确地判断迭代训练中的参数序列、损失序列是在收敛、振荡,还是持续发散。
学习目标
- 理解数列收敛、极限值与发散的含义
- 能根据数值变化判断常见数列的长期趋势
- 能把数列极限与 AI 训练中的迭代过程联系起来
从数列看“越来越接近”
数列可以写成 ,其中 表示第 项。若无论误差要求多小,从某一项起,所有项到某个常数 的距离都小于该误差,就称数列收敛到 。记号如下。
例如 的前几项是 。这些数始终大于零,但会越来越接近零,因此它的极限是 。极限描述的是长期趋势,不要求数列中的某一项真的等于极限值。

收敛与发散的判断
数列有确定极限时称为收敛,否则称为发散。发散并不只有“越来越大”这一种形式,常见情况包括:
- :不断增大,没有有限极限。
- :在 与 之间反复跳动,不能靠近同一个值。
- :虽然正负交替,但振幅逐渐缩小,最终仍收敛到 。
因此,判断数列是否收敛不能只看它是否单调,还要观察各项能否稳定聚集到同一个数附近。
用误差理解严格含义
“越来越接近”可以用误差表示。若无论给定多小的正数 ,总能找到某个位置 ,使所有 的项都满足下式。
那么 就是数列的极限。这里的重点是:进入误差范围后,后续所有项都必须留在范围内,而不是偶尔经过一次。
以 为例,若要求误差小于 ,只要取 ,当 时就有 。这说明极限不是模糊的视觉感觉,而是可以用任意精度检验的稳定趋势。
AI 训练中的数列
梯度下降会产生参数序列 ,每轮训练还会得到损失序列 。若损失逐步靠近某个稳定值,可以说损失序列表现出收敛趋势。
但“损失收敛”不等于“模型一定最好”。它可能收敛到局部最优,也可能因为学习率过小而过早停滞。若损失持续增大,通常表示训练发散;若在多个值之间剧烈来回变化,则可能是学习率过大或优化过程不稳定。
判断训练是否稳定,应同时观察损失趋势、参数变化和验证集表现,不能只凭最后一次损失值下结论。
易混淆点
数列有界不一定收敛,例如 始终位于 ,却没有极限。单调也不一定有有限极限,例如 单调递增但趋向无穷大。单调且有界是保证有限极限的一种充分条件。也有非单调的收敛数列。例如偶数项为 、奇数项为 的数列收敛到 。它从偶数项到下一奇数项时会暂时远离 ,但所有项到 的距离都不超过 。
极限也不等于最终停止变化。 永远在变化,却仍然收敛到 。在训练中,参数每轮仍有微小更新,也可能已经进入工程上可接受的收敛区间。