马尔可夫不等式 (Markov's Inequality)
马尔可夫不等式是概率论中最基本的尾部概率上界之一,为任意非负随机变量取值超过某一正数阈值的概率提供了上界估计。该不等式以俄罗斯数学家安德雷·马尔可夫命名,是推导切比雪夫不等式、切尔诺夫界和许多集中不等式的出发点。
定理陈述
设 X 为非负随机变量(即 X≥0 几乎处处成立),且 E[X]<∞。则对任意 a>0,有
P(X≥a)≤aE[X].
等价地也可写为 P(X<a)≥1−E[X]/a,只要 a>E[X] 该下界便为正。
证明
引入指示函数 1{X≥a},对任意非负 X 有 X≥a⋅1{X≥a}。取期望:
E[X]≥E[a⋅1{X≥a}]=a⋅P(X≥a).
两边除以 a 即得结论。
关键假设与局限性
随机变量必须非负,期望必须存在有限,a 必须为正。不等式仅用一阶矩信息,界较保守。当 a 接近 E[X] 时上界可能大于1而退化。
推广与应用
推广形式:对任意非降函数 φ:R→[0,∞),P(X≥a)≤E[φ(X)]/φ(a)。取 φ(t)=t2 并令 X=(Y−E[Y])2 即得切比雪夫不等式。取 φ(t)=eλt 导出切尔诺夫界。
在统计推断中用于证明弱大数定律和估计量一致性。样本均值 Xˉn 满足 P(∣Xˉn−μ∣≥ε)≤Var(Xˉn)/ε2,由此均方收敛蕴含依概率收敛。马尔可夫不等式以最弱前提为集中不等式和大偏差理论提供了统一推导框架。