高等数学 / 系统课时
估计量的有效性
估计量的有效性
当多个估计量都能无偏地估计同一参数时,仅凭“平均不偏”还无法决定选哪一个。本课将用方差比较它们的波动大小,并通过两个总体均值估计量说明有效性和相对效率的计算方法。
学习目标
- 能说明为什么有效性通常在无偏估计量之间比较
- 能根据方差判断两个估计量谁更有效
- 能用均方误差理解有效性指标的适用边界
有效性比较什么
设 和 都是参数 的无偏估计量。如果对参数空间中的所有 都有:
并且至少对一个参数值严格小于,就称 比 更有效。方差越小,表示重复抽样得到的估计值越集中,结果通常越稳定。
比较前必须确认三个条件:估计的是同一个参数、使用的是同一统计模型、两个估计量都满足无偏性。若方差大小会随参数变化并发生交叉,就不能直接断言其中一个在所有情况下都更有效。
主例:两个总体均值估计量
设 相互独立,来自均值为 、方差为 的总体。考虑两个估计量:
两者的期望分别为:
所以它们都是总体均值 的无偏估计量。利用独立随机变量方差可加的性质:
比较结果如下:
| 估计量 | 使用的样本 | 期望 | 方差 |
|---|---|---|---|
| 4 个 | |||
| 2 个 |
由于 ,因此 比 更有效。它利用了全部四个观测值,所以重复抽样时波动更小。
相对效率如何表示
可以用方差之比量化两个无偏估计量的效率差异。定义 相对于 的相对效率为:
在主例中:
这表示按该定义, 的相对效率是 的 2 倍。使用相对效率时要先说明比值方向,因为不同教材可能采用相反的分子与分母顺序。
为什么方差能代表优劣
估计量的均方误差定义为:
当 无偏时,偏差项为零,因此 。这说明在无偏估计量之间,比较方差等价于比较平均平方误差,方差较小者整体误差也较小。
若估计量存在偏差,就不能只看方差。一个方差很小但偏差明显的估计量,均方误差可能仍然较大;此时应直接比较均方误差,而不是沿用无偏估计量的有效性结论。
实际比较的顺序
先验证各估计量是否估计同一参数,再分别计算期望确认无偏性,然后在相同样本量和模型假设下计算方差。若一个方差始终不大于另一个,就可判断其更有效;若方差关系依赖未知参数,则需要说明适用范围,不能给出无条件结论。
有效性也不表示估计量在所有评价标准下绝对最优。实际选择还可能考虑计算成本、稳健性、样本缺失和模型假设是否可靠。