高等数学 / 系统课时
协方差
协方差
两个随机变量可能一起增大、一个增大另一个减小,也可能没有稳定的线性变化方向。本课用协方差量化这种共同变化,并解释其符号、计算方法与尺度依赖性。
学习目标
- 掌握协方差的定义与等价计算公式
- 能根据协方差的符号判断线性变化方向
- 理解零协方差、独立性与尺度变化之间的边界
协方差衡量什么
设随机变量 、 的均值分别为 、,协方差定义为:
当 和 经常同时高于各自均值,或同时低于各自均值时,乘积通常为正,协方差倾向于大于 。若一个高于均值时另一个常低于均值,乘积通常为负,协方差倾向于小于 。

展开定义后,可以得到更便于计算的公式:
协方差还满足对称性,即 ;当两个变量相同,。
主示例:离散随机变量手算
设 以相同概率取值 、、,并令 。对应取值如下:
| 概率 | |||
|---|---|---|---|
先求均值:
再对中心化乘积取期望:
结果为正,符合 的同向线性关系。常数 只改变 的位置,不会改变协方差。
符号含义与零协方差
协方差大于 ,表示两个变量总体上同向线性变化;小于 ,表示总体上反向线性变化;接近 ,表示没有明显的线性共同变化。
需要注意,协方差为 不等于两个变量独立。变量之间可能存在明显的非线性关系,但正负中心化乘积相互抵消。反过来,在二阶矩存在时,独立通常可以推出协方差为 。
尺度依赖性
协方差会随单位变化。对常数 、、、,有:
平移量 、 不影响协方差,但缩放系数 、 会直接改变其大小和符号。例如把米改成厘米,相应变量放大 倍,协方差也会按比例放大。
因此,协方差的数值大小不能脱离量纲直接比较。它更适合判断方向,若要比较不同单位或不同数据集中的关系强弱,应使用标准化后的相关系数。
样本协方差
实际数据中通常只有样本 。常用的样本协方差为:
分母使用 ,是为了在独立同分布抽样条件下对总体协方差进行无偏估计。若只是描述当前这批完整数据,也可能使用分母 ;使用前应先明确是在估计总体,还是统计已知总体本身。
按自己的节奏,确认真正理解。