完全统计量

完全统计量 (Complete Statistic)

完全统计量是数理统计理论中一个深刻而核心的概念。它与充分统计量相辅相成，共同构成了最优估计理论（尤其是UMVUE理论）的基石。直观上，一个统计量 $T(X)$ 是"完全的"，意味着由 $T$ 所诱导的分布族足够丰富，以至于不存在任何非平凡的函数 $g(T)$，其期望能在整个参数空间上恒等于零。这一性质保证了基于该统计量的无偏估计量是唯一的，从而为寻找最优估计量提供了坚实的理论保障。

正式定义

设随机样本 $X = (X_1, X_2, \ldots, X_n)$ 来自分布族 $\{P_\theta : \theta \in \Theta\}$，其中 $\Theta$ 为参数空间。令 $T = T(X)$ 为一统计量，其分布依赖于 $\theta$。称 $T$ 关于该分布族是完全的（complete），如果对于任意可测函数 $g(\cdot)$，以下蕴含关系成立：

换言之，若一个函数 $g$ 使得 $g(T)$ 的期望对参数空间中每一个 $\theta$ 都为零，那么 $g(T)$ 本身必须以概率 1 为零。不存在一个"非平凡"的函数能使得其期望恰好恒为零。如果上述条件仅对有界可测函数成立，则称 $T$ 是有界完全的（boundedly complete）。在实际应用中，尤其是在指数族分布的语境下，有界完全性往往已足够满足理论需求。

直觉与解释

完全性的本质可以从函数空间的角度来理解。对于每个 $\theta$，$E_\theta[g(T)] = \int g(t) f_T(t; \theta) \, dt = 0$ 可以看作函数 $g$ 与分布密度 $f_T(t; \theta)$ 在 $L^2$ 意义下"正交"。如果由 $\{f_T(t; \theta): \theta \in \Theta\}$ 张成的函数空间足够大（例如，能够逼近整个 $L^2$ 空间），那么唯一与所有这些分布都正交的函数只能是零函数。因此，完全性本质上要求分布族 $\{P_\theta\}$ 在参数变化时足够"丰富"，以至于没有任何非零函数能与所有分布密度均正交。

简单示例：设 $X \sim \text{Bernoulli}(p)$，参数 $p \in (0,1)$，取 $T(X) = X$。对于任意函数 $g(T) = aT + b$，有 $E_p[g(T)] = ap + b$。若对所有 $p \in (0,1)$ 都有 $ap + b = 0$，则必然有 $a = b = 0$，故 $T$ 是完全的。但如果将参数空间限制为 $\Theta = \{1/2\}$，则只需要 $a(1/2) + b = 0$，即 $b = -a/2$，此时存在非零函数（如 $g(T) = 2T - 1$）使其期望为零，故 $T$ 不再完全。这一例子表明，完全性不仅取决于分布的形式，还与参数空间的大小密切相关。

完全性与充分性的关系

充分统计量确保样本中关于参数的全部信息都被浓缩在 $T$ 中没有丢失，而完全统计量确保基于 $T$ 的无偏估计函数的唯一性。两者是互补的：

• 充分性回答的是"信息是否完整"的问题。
• 完全性回答的是"估计量是否唯一"的问题。

当统计量同时具备充分性和完全性时，它便成为构造最优估计量的理想工具。Lehmann-Scheffé定理指出：若 $T$ 是完备充分统计量，且 $\phi(T)$ 是参数 $\tau(\theta)$ 的任意无偏估计量，则 $\phi(T)$ 就是 $\tau(\theta)$ 的唯一UMVUE（一致最小方差无偏估计量）。这一结论避免了在不同无偏估计量之间进行方差比较的繁琐工作。

值得注意的是，完全性和充分性之间没有蕴含关系：完全统计量不一定是充分的，反之亦然。例如，在 $X \sim U(0, \theta)$ 中，$T = X_{(n)}$（样本最大值）既是充分的也是完全的；而独立同分布样本的顺序统计量 $X_{(1)}$ 在指数分布中是完全的但不充分。

指数族分布中的完全性

指数族分布在完全性分析中占据中心地位。考虑单参数指数族：

定理：若参数空间 $\Theta$ 包含一个开区间，且自然参数空间 $\{\eta(\theta): \theta \in \Theta\}$ 也包含一个开集，则自然充分统计量 $T(X)$ 是完全的。

这一结论极大地简化了实践中的应用，因为许多常见分布都属于指数族：

• $X \sim N(\mu, \sigma^2)$，$\sigma^2$ 已知时，样本均值 $\bar{X}$ 对 $\mu$ 是完全的。
• $X \sim \text{Poisson}(\lambda)$，$\sum_{i=1}^n X_i$ 对 $\lambda$ 是完全的。
• $X \sim \text{Bernoulli}(p)$，$\sum_{i=1}^n X_i$ 对 $p$ 是完全的。
• $X \sim \text{Gamma}(\alpha, \beta)$，$\sum_{i=1}^n X_i$ 在 $\alpha$ 固定时对 $\beta$ 是完全的。

Basu定理

完全性的一个重要应用体现在Basu定理中。该定理指出：如果 $T$ 是一个完备充分统计量，而 $V$ 是一个辅助统计量（即其分布不依赖于参数 $\theta$），那么 $T$ 与 $V$ 在统计上相互独立。

这一结论为判断统计独立性提供了极为精致的方法。例如，在 $X_i \overset{\text{i.i.d.}}{\sim} N(\mu, \sigma^2)$ 且 $\sigma^2$ 已知的设定下，样本均值 $\bar{X}$ 是 $\mu$ 的完备充分统计量，而样本方差 $S^2 = \frac{1}{n-1}\sum (X_i - \bar{X})^2$ 是辅助统计量（其分布不依赖于 $\mu$），因此 $\bar{X}$ 与 $S^2$ 独立。用传统方法推导这一结论需要冗长的协方差计算，而Basu定理提供了更简洁的论证路径。

完全性的验证方法

在实际应用中，验证一个统计量的完全性通常有以下几种策略：

1. 指数族判定法：若分布属于指数族且参数空间包含开集，则自然充分统计量自动完全。这是最常用的方法。
2. Laplace变换法：完全性条件 $E_\theta[g(T)] = 0$ 可视为 $g$ 的某种积分变换为零。利用Laplace变换或矩母函数的唯一性，若该变换在开区间上处处为零，则 $g = 0$ 几乎处处成立。
3. 矩方法：若 $T$ 的所有矩 $E_\theta[T^k]$ 唯一确定其分布，且 $g$ 可展开为幂级数，则通过系数为零的论证可证明完全性。

完全统计量与UMVUE

完全性最直接的应用在于系统性地构造UMVUE。标准步骤为：

• 找到充分统计量 $T$（通常借助Fisher-Neyman因子分解定理）。
• 利用指数族性质验证 $T$ 的完全性。
• 寻找 $T$ 的某个无偏函数 $\phi(T)$，即 $E_\theta[\phi(T)] = \tau(\theta)$。
• 根据Lehmann-Scheffé定理，$\phi(T)$ 即为 $\tau(\theta)$ 的UMVUE。

例如，在 $X_i \overset{\text{i.i.d.}}{\sim} \text{Uniform}(0, \theta)$ 情形中，$T = \max\{X_1, \ldots, X_n\} = X_{(n)}$ 是充分的且完全的。由于 $E_\theta[T] = \frac{n}{n+1}\theta$，可得 $\hat{\theta} = \frac{n+1}{n} X_{(n)}$ 是 $\theta$ 的UMVUE。

小结

完全统计量是连接充分性理论与最优估计理论之间的桥梁。尽管其定义较为抽象，但它在指数族分布中具有良好的可操作性，并在UMVUE构造、Basu定理的应用以及假设检验理论中发挥着不可替代的作用。深入理解完全统计量的本质，是掌握现代统计推断理论的关键一步。