依概率收敛

依概率收敛 (Convergence in Probability)

依概率收敛（弱收敛）描述随机变量序列当 $n\to\infty$ 时的行为，是大数定律的数学基础和评价统计估计量一致性的核心概念。

定义

随机变量序列 $\{X_n\}$ 依概率收敛于随机变量 $X$（记为 $X_n \xrightarrow{p} X$ 或 $\mathrm{plim}\, X_n = X$），若对任意 $\epsilon > 0$：

含义：$X_n$ 与 $X$ 偏差超过任意小容限 $\epsilon$ 的概率随 $n$ 增大趋于零。目标常数为常数 $c$（如总体参数）：$\mathrm{plim}\, X_n = c$。

直观理解

样本均值估计总体均值为例：$\bar{X}_n$ 随 $n$↑与真实 $\mu$ 之间大偏差可能性越来越小。设定任意 $\epsilon$（如0.1cm），$n$ 足够大→$P(|\bar{X}_n-\mu|>\epsilon)\approx 0$。这正是弱大数定律(WLLN)——若i.i.d.且 $E[X_i]=\mu$ 存在→$\bar{X}_n \xrightarrow{p} \mu$。

与其他收敛形式的关系

殆必收敛(a.s.)：$P(\lim X_n = X)=1$，更强（a.s.→p）。a.s.保证几乎所有样本路径最终收敛到X；p只保证远离X概率趋于零。

依分布收敛(d)：CDF逐点收敛，p更强（p→d）。p关涉取值；d仅关涉分布形状。特例：$X_n \xrightarrow{d} c$ → $X_n \xrightarrow{p} c$。

均方收敛($L^2$)：$\lim E[(X_n-X)^2]=0$，更强（$L^2$→p，可用切比雪夫不等式证明）。

收敛强弱层级: a.s.→p→d；$L^2$→p。

应用

一致估计量：$\hat{\theta}_n \xrightarrow{p} \theta$（样本量大→估计越来越接近真参数，基本统计素养要求）。弱大数定律：依概率收敛最经典范例。连续映射定理：若 $X_n \xrightarrow{p} X$ 且 $g$ 连续→$g(X_n) \xrightarrow{p} g(X)$。例：$\bar{X}_n \xrightarrow{p} \mu$（且$\mu\neq0$）→$1/\bar{X}_n \xrightarrow{p} 1/\mu$。

证明示例（切比雪夫证WLLN）

I.i.d. $X_i$，$E[X_i]=\mu$，$Var(X_i)=\sigma^2<\infty$。$\bar{X}_n$ 期望$\mu$，方差$\sigma^2/n$。切比雪夫不等式：$P(|\bar{X}_n-\mu|\ge\epsilon) \le \sigma^2/(n\epsilon^2)$。取 $n\to\infty$→右端→0，夹逼定理：$\lim P(|\bar{X}_n-\mu|>\epsilon)=0$。证毕。