高等数学 / 系统课时
贝叶斯公式
贝叶斯公式
贝叶斯公式解决的是“已知结果,反推原因”的问题。它把原因原有的可能性、该原因产生当前结果的能力以及结果的总体概率结合起来,得到观察证据之后更新过的原因概率。
学习目标
- 区分先验概率、似然和后验概率
- 掌握贝叶斯公式的计算方法
- 能根据观察结果更新对不同原因的判断
从结果反推原因
设 是一组互斥且完备的原因, 是已经观察到的结果。现在要计算的是:在 已经发生的条件下,原因 发生的概率。

根据条件概率定义:
又因为 ,并且分母可以用全概率公式展开,所以得到:
先验、似然与后验
贝叶斯公式中的三个核心量承担不同职责:
| 名称 | 表达式 | 含义 |
|---|---|---|
| 先验概率 | 观察结果之前,对原因 的原始判断 | |
| 似然 | 原因 成立时,观察到结果 的概率 | |
| 后验概率 | 已经观察到结果 后,原因 的更新概率 |
似然不是“原因成立的概率”。它描述的是假设某个原因已经成立,该原因产生当前证据的能力。后验概率才是观察证据后真正需要比较的结果。
根据次品反推生产线
某工厂有两条生产线。生产线 生产全部产品的 ,次品率为 ;生产线 生产其余 ,次品率为 。现在发现随机抽取的产品是次品,求它来自生产线 的概率。
令 表示“产品是次品”。先使用全概率公式计算整体次品率:
再使用贝叶斯公式:
因此,已知产品是次品时,它来自生产线 的概率约为 。虽然生产线 只生产 的产品,但其较高的次品率使它在已发现次品中的占比明显上升。
正确理解概率更新
贝叶斯更新不是只比较各原因的似然。若某个原因产生证据的概率很高,但它本身极少发生,最终的后验概率仍可能不高。因此,计算时必须同时考虑先验概率和似然。
分母 起归一化作用,表示该证据通过所有可能原因发生的总概率。遗漏某个原因、让原因之间发生重叠,或者只使用目标原因的路径概率,都会导致后验概率失真。实际解题时,可以先计算每个原因的未归一化权重:
再用目标原因的权重除以所有权重之和:
这种写法能清楚地看到:证据会增强与它更匹配的原因,但所有原因最终仍需共同归一化。
按自己的节奏,确认真正理解。