最小方差估计量

最小方差估计量 (Minimum Variance Estimator)

最小方差估计量是在某一类估计量中具有最小方差的估计量。在点估计理论中，方差衡量估计量围绕真实参数的离散程度，最小方差准则反映了估计精度最优的要求。该概念与无偏性、充分性和Cramér-Rao 下界密切相关，构成了经典估计理论的核心评价框架。

最小方差无偏估计量 (MVUE)

设 $X_1, \ldots, X_n$ 为来自分布 $F_\theta$ 的样本，参数 $\theta \in \Theta$。估计量 $\hat{\theta} = T(X_1, \ldots, X_n)$ 若满足 $\mathbb{E}_\theta[\hat{\theta}] = \theta$（无偏性），且对任意其他无偏估计量 $\tilde{\theta}$ 有 $\operatorname{Var}_\theta(\hat{\theta}) \le \operatorname{Var}_\theta(\tilde{\theta})$ 对所有 $\theta \in \Theta$ 成立，则称 $\hat{\theta}$ 为最小方差无偏估计量（Minimum Variance Unbiased Estimator，MVUE）。

MVUE 的构造依赖于两条核心定理。Rao-Blackwell 定理指出，若 $T$ 是 $\theta$ 的无偏估计量，$S$ 是充分统计量，则条件期望 $\mathbb{E}[T \mid S]$ 也是无偏的且方差不大于 $T$。Lehmann-Scheffé 定理进一步给出：若 $S$ 是完备充分统计量且 $g(S)$ 是 $\theta$ 的无偏估计量，则 $g(S)$ 是唯一的 MVUE。

Cramér-Rao 下界与有效性

Cramér-Rao 不等式为无偏估计量的方差设定了理论下界。在正则条件下，任意无偏估计量 $\hat{\theta}$ 的方差满足：

其中 $I(\theta) = \mathbb{E}_\theta\left[\left(\frac{\partial \log f(X;\theta)}{\partial \theta}\right)^2\right]$ 为Fisher 信息量。达到 Cramér-Rao 下界的估计量称为有效估计量（Efficient Estimator），它必然是 MVUE，但 MVUE 未必能达到该下界。

对于多维参数 $\boldsymbol{\theta} \in \mathbb{R}^k$，Cramér-Rao 下界推广为矩阵不等式：$\operatorname{Cov}_\theta(\hat{\boldsymbol{\theta}}) \succeq I(\boldsymbol{\theta})^{-1}$，其中 $I(\boldsymbol{\theta})$ 为 $k \times k$ 的 Fisher 信息矩阵。

Gauss-Markov 定理与 BLUE

在线性回归模型 $y = X\beta + \varepsilon$ 中，若误差满足 $\mathbb{E}[\varepsilon] = 0$ 且 $\operatorname{Var}(\varepsilon) = \sigma^2 I$（球形误差），Gauss-Markov 定理断言普通最小二乘估计量 $\hat{\beta}_{OLS} = (X'X)^{-1}X'y$ 在所有线性无偏估计量中具有最小方差，即它是最优线性无偏估计量（Best Linear Unbiased Estimator, BLUE）。这一结论不依赖于误差的正态性假设，仅需一阶矩和二阶矩条件。

当球形误差假设被违反时，广义最小二乘法（GLS）恢复 BLUE 性质，加权最小二乘法（WLS）是其特例。

渐近最小方差

在大样本框架下，渐近方差取代有限样本方差成为核心评价指标。若 $\sqrt{n}(\hat{\theta}_n - \theta) \xrightarrow{d} N(0, V)$，则 $V$ 为渐近方差。达到渐近 Cramér-Rao 下界 $I(\theta)^{-1}$ 的估计量称为渐近有效估计量。极大似然估计量（MLE）在正则条件下具有渐近有效性，是应用最广泛的渐近最小方差估计量。

经济学与计量经济学应用

最小方差估计量在实证经济学中具有核心地位：(1) 政策评估中，双重差分法（DiD）和工具变量法（IV）均以最小方差准则指导估计量选择；(2) 资产定价中，Fama-MacBeth 两步法的 OLS 估计依赖 Gauss-Markov 定理的最优性；(3) 向量自回归模型（VAR）中参数估计效率直接影响脉冲响应推断的精度；(4) 处理效应文献中，逆概率加权估计量（IPW）的最优权重选择等价于最小方差问题。估计精度直接决定实证结论的可信度。