贝叶斯定理
“不要只看证据本身有多准——它原本有多罕见,可能会彻底改变答案。”
公式
P(A|B) = P(B|A)·P(A) / P(B)怎么读: 在看到证据B之后A发生的概率,等于A的先验概率乘以A成立时B出现的可能性,再除以B出现的总概率
- P(A|B)
- — 看到B之后A发生的概率(后验概率)
- P(A)
- — 看到证据前A发生的概率(先验概率)
- P(B|A)
- — A成立时看到证据B的似然
- P(B)
- — 看到证据B的总概率
引子
一项准确率99%的检测结果呈阳性——但你真正患病的概率却只有大约17%。贝叶斯定理解释了原因。
通俗地说
贝叶斯定理是用新证据更新信念的规则。取看到B之前A的概率(先验),乘以A成立时B出现的可能性,再除以B出现的总概率,就得到看到B之后A的概率(后验)。
直觉
关键的直觉是'基础比率'。如果一种疾病非常罕见(1%),那么即使健康人群(占99%)中只有5%的误报率,产生的阳性结果也会远远多于真正的患者。所以大多数阳性其实是'健康却被误判'的人。不要只看检测的准确率——也要看被检测的事物本身有多罕见。
如何构建
三个要素构成后验概率:先验概率P(A)是你最初的信念,似然P(B|A)是证据的说服力,分母P(B)是证据在所有路径上的总概率。分母通常展开为P(B|A)P(A) + P(B|¬A)P(¬A),同时计入'真阳性'和'假阳性'。
示例
疾病患病率P(D)=1%,检测灵敏度P(+|D)=99%,假阳性率P(+|健康)=5%。给定阳性结果,真正患病的概率是多少?P(+) = 0.99·0.01 + 0.05·0.99 = 0.0099 + 0.0495 = 0.0594。所以P(D|+) = 0.0099/0.0594 ≈ 0.167,大约17%。
常见误区
最大的陷阱是把P(A|B)和P(B|A)搞混('检察官谬误')。'患病时检测呈阳性的概率'和'检测呈阳性时患病的概率'完全是两码事。连接二者的桥梁就是贝叶斯定理——而这座桥梁始终离不开先验概率。
用在哪里
垃圾邮件过滤、医学诊断、法庭上权衡证据、机器学习(朴素贝叶斯分类器)、搜索与推荐、科学假设检验——凡是需要根据不确定的证据更新信念的地方都能用到。
从何而来
这个想法由18世纪的牧师托马斯·贝叶斯在身后留下,后经拉普拉斯发展完善。长期饱受争议,如今它已成为统计学与人工智能的核心框架。
前置概念
小测验
为什么即使一项高准确率的检测呈阳性,真正患上罕见疾病的概率仍然很低?
- 因为检测出了故障
- 因为庞大的健康人群会产生大量假阳性✓
- 因为检测的灵敏度很低
- 因为这种疾病很常见
练习
已知P(A)=0.5,P(B|A)=0.8,P(B|¬A)=0.4,求P(A|B)。
答案: 0.667
- P(B) = 0.5·0.8 + 0.5·0.4 = 0.4 + 0.2 = 0.6
- P(A|B) = 0.4 / 0.6 ≈ 0.667
要点: 分母是证据概率在所有路径上的总和。
患病率P(D)=0.01,灵敏度P(+|D)=0.99,假阳性率P(+|健康)=0.05。求给定阳性结果时P(D|+)。
答案: 0.167
- P(+) = 0.99·0.01 + 0.05·0.99 = 0.0099 + 0.0495 = 0.0594
- P(D|+) = 0.0099 / 0.0594 ≈ 0.167
要点: 对于罕见疾病,即使检测呈阳性,概率依然很低——这就是基础比率的力量。
1号工厂生产60%的灯泡(次品率2%),2号工厂生产40%(次品率5%)。求一个次品灯泡来自1号工厂的概率。
答案: 0.375
- P(次品) = 0.6·0.02 + 0.4·0.05 = 0.012 + 0.02 = 0.032
- P(1号工厂 | 次品) = 0.012 / 0.032 = 0.375
要点: 反向概率不过是比较每条路径的贡献。
一位朋友说:'这项检测准确率95%,所以阳性结果意味着95%的患病概率'。在笔记本上解释这为什么是错的。
答案: undefined
- 他把P(阳性|患病)和P(患病|阳性)搞混了
- 他忽略了先验概率(患病率)——如果疾病罕见,答案会大幅下降
- 贝叶斯定理是连接这两个条件概率的桥梁,而它离不开先验概率
要点: 准确率不等于后验概率——没有先验概率就无法回答。