拉格朗日乘数检验

拉格朗日乘数检验 (Lagrange Multiplier Test)

拉格朗日乘数检验（Lagrange Multiplier Test），通常简称为LM检验或得分检验（Score Test），是统计学和计量经济学中一类极为重要的假设检验方法。其名称来源于拉格朗日乘数法——在受约束优化问题中，拉格朗日乘子衡量了放松约束所能带来的边际改善，而LM检验正是通过检验这一乘子是否显著非零来判断约束的合理性。该方法由印度统计学家C. R. Rao于1948年首次系统阐述，故也常被称为Rao得分检验。

LM检验与似然比检验（Likelihood Ratio Test, LR Test）和沃尔德检验（Wald Test）并称为最大似然估计框架下的三大经典检验。三者在大样本下渐近等价，但在有限样本中可能得出不同结论。LM检验的独特优势在于：仅需估计受约束模型，而无需估计更复杂的无约束模型。当无约束模型涉及复杂非线性优化或高维参数时，这一特性极大地简化了计算，使其成为模型设定诊断中最常用的工具之一。

检验的直观理解：登山比喻

为理解LM检验的内在逻辑，考虑如下的登山比喻。假设有一个似然函数 $L(\theta)$ 定义了二维平面 $(\theta_1, \theta_2)$ 上的山峰，目标是找到该山峰的最高点。

• 无约束模型：允许在平面上自由移动，找到全局最高点 $\hat{\theta}_{UR}$。
• 约束条件：施加约束 $\theta_2 = 0$，只能在 $\theta_1$ 轴（山脊线）上行走。
• 受约束模型：在 $\theta_1$ 轴上找到该路径上的最高点 $\hat{\theta}_{R}$。

LM检验的核心问题：约束 $\theta_2=0$ 是否显著地降低了我们到达顶峰的能力？具体而言，先站在受约束最优点 $\hat{\theta}_{R}$处，考察若打破约束向 $\theta_2$ 方向跨出一步，坡度如何。该坡度在统计学中被称为得分（Score）。若零假设 $\theta_2=0$ 为真，则 $\hat{\theta}_{R}$ 应接近全局最优点，沿 $\theta_2$ 方向的坡度应接近于零。反之，若坡度显著非零，则表明打破约束能显著提升似然值，构成拒绝零假设的有力证据。拉格朗日乘数检验这个名称由此而来——在数学优化中，拉格朗日乘子恰好度量了这一边际收益的大小。

LM检验的统计原理

设对数似然函数为 $\ln L(\theta)$，$\theta$ 为 $k$ 维参数向量，零假设 $H_0: R(\theta)=0$ 包含 $q$ 个约束。

得分向量与信息矩阵

得分向量（Score Vector）是对数似然函数关于参数的一阶偏导：

在无约束最大似然估计 $\hat{\theta}_{UR}$ 处，得分满足 $s(\hat{\theta}_{UR}) = 0$——即一阶条件。信息矩阵衡量数据中关于参数的信息含量，定义为得分协方差矩阵的负期望：

根据Cramér-Rao下界，$[I(\theta)]^{-1}$ 是任何无偏估计量方差-协方差矩阵的下界，因此信息矩阵在统计推断中占据核心位置。

LM统计量的构建

LM检验分三步实施：

1. 在 $H_0$ 约束下最大化对数似然，得到受约束估计量 $\hat{\theta}_R$。
2. 计算 $\hat{\theta}_R$ 处得分 $s(\hat{\theta}_R)$。若 $H_0$ 为真，$\hat{\theta}_R$ 应接近 $\hat{\theta}_{UR}$，故 $s(\hat{\theta}_R)$ 应接近零向量。
3. 构建标准化的二次型度量： \[ LM = s(\hat{\theta}_R)' [I(\hat{\theta}_R)]^{-1} s(\hat{\theta}_R) \] 该统计量本质上是得分向量在信息矩阵内积度量下的范数平方。

在零假设和正则条件下，LM统计量渐近服从自由度为 $q$ 的卡方分布：

决策规则

给定显著性水平 $\alpha$，查 $\chi^2(q)$ 分布临界值 $c$。若 $LM > c$，拒绝 $H_0$；否则不拒绝。也可计算p值，若 $p < \alpha$ 则拒绝零假设。

与沃尔德检验和似然比检验的比较

三大检验服务于同一假说检验目的，但信息利用角度截然不同：

• 似然比检验：同时估计受约束和无约束模型，比较似然值：$LR = 2(\ln L_{UR} - \ln L_R) \xrightarrow{d} \chi^2(q)$。最直观但计算负担最重。
• 沃尔德检验：仅需无约束估计，检验其是否满足约束。例如检验 $\hat{\theta}_2=0$：$W = (R\hat{\theta}_{UR})'[R\,\hat{V}(\hat{\theta}_{UR})\,R']^{-1}(R\hat{\theta}_{UR})$。计算简便但依赖于无约束估计的准确性。
• 拉格朗日乘数检验：仅需受约束估计，检验得分是否显著偏离零。受约束模型通常较简单，计算最为便利。

三者大样本下等价，但有限样本中一般有 $W \geq LR \geq LM$ 的数值关系。这意味着对同一假设，三种检验可能给出不同结论——当检验结果接近临界值时，这种不一致性尤为突出。

计量经济学中的主要应用

检验遗漏变量

检验某些变量是否应纳入模型（即系数是否为零）。先进行不含这些变量的受约束回归得到残差 $\hat{u}$，再将 $\hat{u}$ 对所有解释变量（含待检验变量）做辅助回归。辅助回归的 $n R^2$ 服从 $\chi^2(q)$，其中 $q$ 为被检验变量个数。该检验与拉姆齐RESET检验在原理上有相通之处。

检验序列相关

Breusch-Godfrey检验是典型LM检验，零假设为扰动项无序列相关。先OLS回归得残差 $\hat{u}_t$，再将 $\hat{u}_t$ 对原始解释变量及 $\hat{u}_{t-1}, \ldots, \hat{u}_{t-p}$ 回归，$n R^2$ 服从 $\chi^2(p)$。相比Durbin-Watson检验，Breusch-Godfrey检验可检验任意高阶序列相关，且不要求解释变量严格外生，在时间序列分析中应用广泛。

检验异方差性

Breusch-Pagan检验用于异方差性检验，零假设为同方差性。先OLS回归得残差平方 $\hat{u}_t^2$，再将其对所有解释变量回归，$n R^2$ 服从 $\chi^2(k)$。White检验是其推广，在辅助回归中加入平方项和交叉项以检测更广泛的异方差形式。

检验ARCH效应

Engle (1982) 提出的自回归条件异方差（ARCH）检验亦是LM检验。零假设为不存在ARCH效应。将残差平方 $\hat{u}_t^2$ 对其自身滞后项回归，$n R^2$ 服从 $\chi^2(q)$。该检验在金融时间序列分析中极其重要，为判断是否需引入GARCH模型提供了统计依据。

综上所述，拉格朗日乘数检验通过仅估计受约束模型来评估约束有效性，兼具理论优美性和计算便利性，是模型设定检验和诊断分析中不可或缺的工具。