Fisher-Neyman因子分解定理

Fisher-Neyman因子分解定理

Fisher-Neyman因子分解定理（Fisher-Neyman Factorization Theorem），也常被称为因子分解准则，是数理统计学中关于点估计理论的一个基石性定理。该定理为判断一个统计量是否为某个未知参数的充分统计量提供了充分必要条件，使我们可以通过直接代数方法寻找和验证充分统计量而无需诉诸定义中复杂的条件概率。该定理以Ronald A. Fisher和Jerzy Neyman命名，深刻阐释了数据中关于未知参数的所有信息如何被一组特定统计量所"捕获"。

充分统计量概念与定理正式表述

一个统计量$T(X)$被称为参数$\theta$的充分统计量，是因为在给定$T(X)$的值之后，原始样本的条件分布不再依赖于参数$\theta$——即$P(X=x | T(X)=t; \theta)$的值与$\theta$无关。直观地说，统计量$T(X)$提取并概括了样本数据中关于$\theta$的全部信息——一旦计算出$T(X)$的值，原始更大的数据集对于推断$\theta$不再提供任何额外信息。充分统计量实现了有效数据降维且不损失与参数推断相关的信息。

设$X_1, \ldots, X_n$是来自概率分布为$f(x;\theta)$的随机样本，$T = T(X_1,\ldots,X_n)$为一个统计量。Fisher-Neyman因子分解定理指出：$T$是$\theta$的充分统计量，当且仅当样本的联合PDF/PMF（似然函数）可分解为两个非负函数的乘积：

其中函数$g$依赖于样本数据仅通过统计量$T$且依赖于参数$\theta$——所有与参数相关的部分都包含在$g$中且与原始数据的交互完全通过$T$实现；函数$h$只依赖于样本数据而完全不依赖于参数$\theta$。"当且仅当"意味着双向——分解存在则$T$为充分统计量，$T$为充分统计量则联合概率可被该形式分解。

应用示例与意义

以伯努利分布为例：$X_i \sim Bern(p)$，似然函数$L(p;x) = p^{\sum x_i}(1-p)^{n-\sum x_i}$。令$T(X) = \sum X_i$（样本成功总次数），分解为$g(T, p) \cdot 1$——$T$是$p$的充分统计量。以正态分布为例：$X_i \sim N(\mu, \sigma^2)$，当$\sigma^2$已知时样本均值$\bar{X}$是$\mu$的充分统计量；当$\mu$已知时$\sum(X_i-\mu)^2$是$\sigma^2$的充分统计量；二者联合估计时$(\bar{X}, \sum(X_i-\bar{X})^2)$构成二维充分统计量。

充分统计量的重要应用在于：任何基于原始样本的统计推断，在仅使用充分统计量的条件下不会损失效率——这就是Rao-Blackwell定理的基础思想：在充分统计量的条件下取条件期望可得到方差更小（或至少不增大）的改进估计量。充分统计量与完备统计量和指数族分布密切相关——指数族分布自然生成充分完备统计量。Fisher-Neyman因子分解定理通过简洁的代数条件将抽象的概念操作化，是连接似然理论和统计推断的桥梁，也是理解极大似然估计和贝叶斯推断理论基础的关键工具。