高等数学 / 系统课时

贝叶斯公式

贝叶斯公式

贝叶斯公式解决的是“已知结果,反推原因”的问题。它把原因原有的可能性、该原因产生当前结果的能力以及结果的总体概率结合起来,得到观察证据之后更新过的原因概率。

学习目标

  • 区分先验概率、似然和后验概率
  • 掌握贝叶斯公式的计算方法
  • 能根据观察结果更新对不同原因的判断

从结果反推原因

设 B1,B2,…,BnB_1,B_2,\ldots,B_n 是一组互斥且完备的原因,AA 是已经观察到的结果。现在要计算的是:在 AA 已经发生的条件下,原因 BkB_k 发生的概率。

贝叶斯公式的概率更新结构

根据条件概率定义:

P(Bk∣A)=P(A∩Bk)P(A)P(B_k\mid A)=\frac{P(A\cap B_k)}{P(A)}

又因为 P(A∩Bk)=P(Bk)P(A∣Bk)P(A\cap B_k)=P(B_k)P(A\mid B_k),并且分母可以用全概率公式展开,所以得到:

P(Bk∣A)=P(Bk)P(A∣Bk)∑i=1nP(Bi)P(A∣Bi)P(B_k\mid A)=\frac{P(B_k)P(A\mid B_k)}{\sum_{i=1}^{n}P(B_i)P(A\mid B_i)}

先验、似然与后验

贝叶斯公式中的三个核心量承担不同职责:

名称 表达式 含义
先验概率 P(Bk)P(B_k) 观察结果之前,对原因 BkB_k 的原始判断
似然 P(A∣Bk)P(A\mid B_k) 原因 BkB_k 成立时,观察到结果 AA 的概率
后验概率 P(Bk∣A)P(B_k\mid A) 已经观察到结果 AA 后,原因 BkB_k 的更新概率

似然不是“原因成立的概率”。它描述的是假设某个原因已经成立,该原因产生当前证据的能力。后验概率才是观察证据后真正需要比较的结果。

根据次品反推生产线

某工厂有两条生产线。生产线 B1B_1 生产全部产品的 60%60\%,次品率为 1%1\%;生产线 B2B_2 生产其余 40%40\%,次品率为 3%3\%。现在发现随机抽取的产品是次品,求它来自生产线 B2B_2 的概率。

令 AA 表示“产品是次品”。先使用全概率公式计算整体次品率:

P(A)=0.6×0.01+0.4×0.03=0.018P(A)=0.6\times0.01+0.4\times0.03=0.018

再使用贝叶斯公式:

P(B2∣A)=P(B2)P(A∣B2)P(A)=0.4×0.030.018=23P(B_2\mid A)=\frac{P(B_2)P(A\mid B_2)}{P(A)} =\frac{0.4\times0.03}{0.018} =\frac{2}{3}

因此,已知产品是次品时,它来自生产线 B2B_2 的概率约为 66.7%66.7\%。虽然生产线 B2B_2 只生产 40%40\% 的产品,但其较高的次品率使它在已发现次品中的占比明显上升。

正确理解概率更新

贝叶斯更新不是只比较各原因的似然。若某个原因产生证据的概率很高,但它本身极少发生,最终的后验概率仍可能不高。因此,计算时必须同时考虑先验概率和似然。

分母 P(A)P(A) 起归一化作用,表示该证据通过所有可能原因发生的总概率。遗漏某个原因、让原因之间发生重叠,或者只使用目标原因的路径概率,都会导致后验概率失真。实际解题时,可以先计算每个原因的未归一化权重:

wi=P(Bi)P(A∣Bi)w_i=P(B_i)P(A\mid B_i)

再用目标原因的权重除以所有权重之和:

P(Bk∣A)=wk∑i=1nwiP(B_k\mid A)=\frac{w_k}{\sum_{i=1}^{n}w_i}

这种写法能清楚地看到:证据会增强与它更匹配的原因,但所有原因最终仍需共同归一化。

按自己的节奏,确认真正理解。

目录与阅读设置

阅读设置

17

记录一个想法

贝叶斯公式

0 / 10000 · 笔记保存到账号。未提交的修改会在关闭、离开或刷新后丢失。

登录哪都通