马尔可夫链
“马尔可夫链是无记忆的运动——只要知道「现在在哪里」,就足以决定接下来会发生什么。”
公式
P(Xₙ₊₁ | X₀…Xₙ) = P(Xₙ₊₁ | Xₙ); πP = π怎么读: 下一步去哪里,只取决于「现在在哪里」,而与过去是怎么走到这里的路径无关
- Xₙ
- — 第 n 步的状态(位置)
- P
- — 转移矩阵——记录从每个状态转移到下一个状态的概率表
- π
- — 平稳分布——长期来看,停留在每个状态的时间比例
引子
你不需要知道全部过去就能预测未来——马尔可夫链是一个没有记忆的世界,只要知道「现在在哪里」就足够了。
通俗地说
它是一个在各状态间随机跳转的过程,下一个状态的概率只取决于当前状态,与到达这里所走的路径完全无关。这种「无记忆性」就是马尔可夫性质。
直觉
想象棋盘游戏中的一枚棋子——下一格由当前所在的格子和骰子的点数决定,怎么走到这里的并不重要。天气模型是经典例子:只要知道「今天是晴是雨」,就能确定明天的概率,上周的天气可以完全忘掉。把每个状态转移到下一个状态的概率写成一张表(转移矩阵),整个系统就被完全刻画了。
如何构建
关键工具是转移矩阵 P——每一行代表一个「当前状态」,行中的元素是转移到下一个状态的概率,所以每一行加起来都是 1。用当前的分布乘以 P,就得到一步之后的分布。重复足够多次,它会稳定在一个不再变化的平稳分布 π,可以通过解 πP = π 求出。
示例
天气:晴→晴 0.8,晴→雨 0.2,雨→晴 0.6,雨→雨 0.4,即 P=[[0.8,0.2],[0.6,0.4]]。要让平稳分布 π=(s,r)(s+r=1)满足 πP=π:s=0.8s+0.6r → 0.2s=0.6r → s=3r。结合 s+r=1:r=0.25,s=0.75。长期来看,75% 是晴天,25% 是雨天。
常见误区
「无记忆」不等于「过去对结果没有影响」——过去早已被浓缩进当前的状态里。只是一旦知道了现在,更早的细节就不再提供额外信息。
用在哪里
谷歌 PageRank(把网页浏览看作马尔可夫链)、语音与文本预测、金融领域的信用评级转移、基因序列分析、强化学习中的状态转移——只要下一步只由当前状态以概率方式决定,就用得到它。
从何而来
1906 年,安德烈·马尔可夫在探究大数定律在不独立的情况下是否依然成立时提出了这一概念。他以俄语诗歌(普希金)中的字母序列作为具体例子进行了分析。
前置概念
小测验
在马尔可夫链中,下一个状态的概率取决于什么?
- 过去经历过的所有状态
- 只取决于当前状态✓
- 只取决于最初的起始状态
- 完全不取决于任何东西
练习
今天是晴天,P(晴→雨) = 0.3。在马尔可夫链中,明天下雨的概率是多少?
答案: 0.3
- 下一个状态只取决于当前状态(今天=晴天)
- 晴→雨的概率就是 0.3
要点: 一步预测就是直接读取当前状态的转移概率。
对于转移矩阵 P=[[0.5,0.5],[0.5,0.5]],求平稳分布中状态 A 所占的比例。
答案: 0.5
- 从任何状态出发,下一步都是 A 占 0.5,B 占 0.5
- 由完全对称性,平稳分布是 (0.5, 0.5)
- 状态 A 的比例 = 0.5
要点: 对称的转移矩阵会给出均匀的平稳分布——各占 0.5。
对于 P=[[0.8,0.2],[0.6,0.4]],求平稳分布中状态 1(晴天)的长期比例 s。
答案: 0.75
- 由 πP=π:s = 0.8s + 0.6r
- 0.2s = 0.6r → s = 3r
- s + r = 1 → 3r + r = 1 → r = 0.25,s = 0.75
要点: 联立两个方程——πP=π 和总和为 1——就能求出平稳分布。
在笔记本上解释:为什么「马尔可夫链无记忆」和「过去毫无意义」是两回事。
答案: undefined
- 只要知道当前状态,下一步的概率就完全确定(无记忆性)
- 但当前状态本身正是由过去产生的
- 所以过去早已被浓缩进「现在」这个概括之中——已知现在,更早的细节就是多余的
要点: 无记忆性 = 「现在是过去的充分概括」——过去并非毫无意义。