Lehmann-Scheffe定理

Lehmann-Scheffé定理

Lehmann-Scheffé定理是数理统计中点估计理论的一个核心定理，为寻找一致最小方差无偏估计量（UMVUE）提供了一种系统性方法。该定理巧妙地将充分统计量和完备统计量联系起来：如果一个统计量既是充分的又是完备的，那么基于该统计量的任何无偏估计量都是唯一的UMVUE。

定理的构成要素

理解该定理需掌握四个核心概念。无偏估计量：期望等于参数真值的估计量，即$E[\hat{\theta}] = \theta, \forall \theta$——无偏性确保在平均意义上不系统偏高或偏低，但无偏估计量可能有很多，需以方差为标准选优。

充分统计量：$T(X)$包含了样本中关于参数$\theta$的全部信息——给定$T(X)$值后，样本的条件分布$P(X=x|T(X)=t)$与参数$\theta$无关，原始数据不再提供额外信息。Neyman-Fisher因子分解定理是判断充分性的常用工具。

完备统计量：统计量$T$的分布族被称为完备的，如果对任何可测函数$g$，只要满足$E_\theta[g(T)] = 0, \forall \theta$，就必然推出$P_\theta(g(T)=0) = 1$。直观而言完备性意味着统计量$T$的信息被"榨干"——不存在任何非平凡的函数其期望恒为零，唯一期望为零的$T$函数就是零函数本身。这一性质保证了基于$T$的无偏估计量的唯一性。

UMVUE：在所有无偏估计量中方差最小的那一个——$Var(\hat{\theta}^*) \le Var(\hat{\theta}), \forall \theta$。

定理逻辑与意义

Lehmann-Scheffé定理是Rao-Blackwell定理的自然延伸和加强。Rao-Blackwell定理指出：若有无偏估计量$W(X)$和充分统计量$T(X)$，则通过取条件期望构造$\phi(T) = E[W(X)|T(X)]$是无偏的且方差小于等于原估计量——UMVUE（如果存在）必然是某个充分统计量的函数。但Rao-Blackwell定理未保证$\phi(T)$唯一或就是最终UMVUE。

Lehmann-Scheffé定理通过增加"完备性"条件解决了唯一性问题。假设有两个不同无偏估计量$\phi_1(T), \phi_2(T)$同为完备充分统计量$T$的函数。因两者都无偏，差的期望为零$E[\phi_1(T) - \phi_2(T)] = 0$。令$g(T) = \phi_1(T) - \phi_2(T)$，由完备性定义得$P(g(T)=0) = 1$——即两估计量几乎必然相等，证明了唯一性。结合Rao-Blackwell方差最优性，完备充分统计量的无偏估计量即为唯一UMVUE。

Lehmann-Scheffé定理在点估计理论中提供了最有效的UMVUE构造方法。实践步骤为：找到完备充分统计量$T$，然后构造$T$的某个函数使其为参数的无偏估计。经典应用包括正态分布下样本均值和样本方差，以及指数族分布中自然参数的UMVUE构造。需要注意的是并非所有模型都存在完备充分统计量——在此类情况下Lehmann-Scheffé方法无法应用。该定理与Cramér-Rao下界共同构成了现代参数估计理论的两个基本支柱。