高等数学 / 系统课时
用投影分解向量误差
用投影分解向量误差
当一个向量无法完全落在目标直线或子空间中时,正交投影会找出其中“能够被目标空间解释”的部分,并把剩余部分变成与目标空间垂直的残差。掌握这种分解后,就能直接计算最近点、距离,并为最小二乘建立几何直觉。
学习目标
- 计算向量到一条直线或正交子空间的投影
- 将原向量分解为投影分量与垂直残差
- 利用正交条件验证投影是否正确
投影是在寻找目标空间中的最近点
设非零向量 张成一条直线,给定向量 。直线上的任意向量都可以写成 ,正交投影就是选择一个系数 ,使 与直线方向 垂直。
垂直条件为
解出 后得到
这里的 位于目标直线上,并且是直线上距离 最近的点。

把原向量拆成投影与残差
定义残差
于是原向量被分解为
其中 平行于目标直线,而 与直线垂直。由于二者正交,还满足勾股关系
因此 就是 到目标直线的最短距离。
用一个二维例子完成计算
取 、。投影系数为
所以
残差为
验证正交性:
结果为零说明残差确实与目标直线垂直,因此投影计算正确。
推广到正交子空间
如果子空间拥有一组标准正交基,并把这些基向量作为列组成矩阵 ,那么投影可以直接写成
对应残差是 ,且 。这意味着残差同时垂直于子空间中的每个基方向。正交投影的核心始终不变:保留目标空间内的分量,把无法解释的部分全部留在垂直残差中。
按自己的节奏,确认真正理解。