高斯-马尔可夫定理

高斯-马尔可夫定理 (Gauss-Markov Theorem)

高斯-马尔可夫定理是计量经济学和统计学的核心理论基石，为普通最小二乘法 (OLS)的广泛使用提供了理论依据。该定理指出，在高斯-马尔可夫假定下，OLS估计量是最佳线性无偏估计量，即BLUE。定理的关键在于：它不要求误差项服从正态分布，仅凭期望和方差假定便确立了OLS在所有线性无偏估计量中的最优性。

五大核心假定

高斯-马尔可夫定理建立在经典线性回归模型 (CLRM)的五项假定之上：

1. 参数线性 (Linearity in Parameters)：因变量 $y$ 是参数 $\beta$ 的线性函数，$y = X\beta + u$。此处要求参数线性，而非变量线性。
2. 随机抽样 (Random Sampling)：从总体中随机抽取容量为 $n$ 的样本，每个观测均遵循同一模型。
3. 无完全多重共线性 (No Perfect Collinearity)：自变量间不存在精确线性关系。若违背，矩阵 $X'X$ 奇异不可逆，OLS无唯一解。
4. 零条件均值 (Zero Conditional Mean)：$E(u \mid X) = 0$，即外生性 (Exogeneity) 假定。这是最关键的条件——若违背（存在内生性），OLS将是有偏且不一致的。
5. 同方差性 (Homoskedasticity)：$Var(u \mid X) = \sigma^2$，误差项方差恒定。若违背，出现异方差性 (Heteroskedasticity)，OLS仍线性无偏但不再是最佳。

BLUE 的含义

OLS估计量 $\hat{\beta} = (X'X)^{-1}X'y$ 是BLUE，其含义可拆解为：

• B — Best (最佳/最小方差)：在所有线性无偏估计量中，$\hat{\beta}_j$ 的方差最小，即OLS是最有效 (Efficient)的估计方法。
• L — Linear (线性)：$\hat{\beta}$ 是因变量 $y$ 的线性函数，因为 $(X'X)^{-1}X'$ 仅依赖于 $X$。
• U — Unbiased (无偏)：$E(\hat{\beta}) = \beta$。重复抽样下，OLS估计值的均值等于真实参数。无偏性依赖假定1–4。

定理的正式表述与证明思路

在假定1–5下，对任意线性无偏估计量 $\tilde{\beta}$，有：

核心证明思路：令任意线性无偏估计量 $\tilde{\beta} = Ay$，其中 $A = (X'X)^{-1}X' + C$。由无偏性 $AX = I$，推出 $CX = 0$。在同方差假定下：

因 $CC'$ 半正定，其对角元素非负，故 $Var(\tilde{\beta}_j) \geq Var(\hat{\beta}_j)$，等号仅当 $C = 0$ 即 $\tilde{\beta} = \hat{\beta}$ 时成立。

意义与局限性

核心意义：只要满足基本假定，无需寻找其他线性无偏方法——OLS已是最优。假定本身构成诊断框架，指导实证研究中的问题排查。

局限：(1) 定理只在线性无偏类别内比较。有偏估计量可能通过大幅降低方差获得更小的均方误差 (MSE)——例如岭回归 (Ridge Regression)在严重多重共线性时可优于OLS。(2) 若假定5不满足，OLS不再是BLUE，应使用广义最小二乘法 (GLS)或稳健标准误。(3) 若假定4不满足（内生性），需用工具变量法 (IV)或固定效应模型修正。(4) BLUE不要求误差正态分布；但进行t检验、F检验和构造置信区间时，需额外引入正态性假定，构成经典正态线性回归模型 (CNLRM)。