有限样本理论

有限样本理论 (Finite Sample Theory)

有限样本理论 (Finite Sample Theory) 是数理统计与计量经济学中研究在固定且有限的样本容量 $n$ 下估计量、检验统计量及推断方法的精确性质的理论分支。与大样本理论（渐近理论）相对，有限样本理论不依赖 $n \to \infty$ 的极限逼近，而是在任意给定的样本量下严格导出统计量的精确分布、矩性质及最优性结论。这一理论构成了精确推断的基础，确保了在可获得数据规模下统计结论的可靠性。

有限样本理论的核心问题

有限样本理论主要回答三类问题。第一类是分布问题：给定总体分布和样本量，统计量服从何种精确分布？正态总体下 $t$-统计量服从t-分布、方差之比服从F-分布等结论均属此类。第二类是矩性质问题：估计量的期望、方差、偏度、峰度等矩在有限样本下如何表达？无偏性是最基本的矩性质，Cramér-Rao下界则给出了方差的理论下限。第三类是最优性问题：在所有无偏估计量中是否存在方差最小的估计量？最小方差无偏估计 (MVUE) 和一致最小方差无偏估计 (UMVUE) 的构造——借助Lehmann-Scheffé定理和充分性|完备性理论——是经典答案。

精确分布与精确推断

有限样本理论的核心成果之一是统计量的精确分布 (Exact Distribution)。当总体服从正态分布时，样本均值 $\bar{X}_n \sim \mathcal{N}(\mu, \sigma^2/n)$，标准化后的 $Z = \sqrt{n}(\bar{X}_n - \mu)/\sigma \sim \mathcal{N}(0,1)$；当方差未知时，$t = \sqrt{n}(\bar{X}_n - \mu)/S \sim t_{n-1}$，其中 $S$ 为样本标准差。这些精确分布不依赖样本量大小，在任何 $n \ge 2$ 下严格成立。基于精确分布构造的置信区间和假设检验（如 $t$-检验、$F$-检验）被称为精确推断 (Exact Inference)，其实际显著性水平精确等于名义显著性水平，不产生近似误差。

有限样本理论与大样本理论的关系

有限样本理论与大样本理论并非对立而是互补。大样本理论提供了处理复杂模型（如广义矩估计、极大似然估计在非正则条件下的行为）的通用工具，但其代价是推断精度仅在大样本下近似成立。有限样本理论则在简单模型（特别是线性回归模型在正态误差假设下）中提供精确结论，并在复杂模型中揭示近似可能失效的边界。现代自举法 (Bootstrap) 在一定程度上弥合了两者的裂隙——通过重抽样近似有限样本分布，而无需假设特定的总体分布形式。

应用与局限

有限样本理论在小样本场景中具有不可替代的价值。在生物统计、临床试验、经济学实验等样本量受限的领域，依赖大样本近似可能导致严重的推断扭曲。然而，经典有限样本理论高度依赖于对总体分布的参数假设（如正态性），当假设不成立时精确结论随之丧失。此外，对于非线性模型、非参数方法或高维问题，有限样本分布往往难以解析表达，数学处理极为复杂。这些局限推动了大样本理论和计算方法（如马尔可夫链蒙特卡洛、精确条件推断）的持续发展。