一般线性假设检验
一般线性假设检验 (General Linear Hypothesis Test)
一般线性假设检验是计量经济学和线性回归分析中的一个核心框架,用于检验关于回归模型参数的一组线性约束条件是否成立。与单个系数的t检验不同,一般线性假设检验允许研究者同时检验多个系数的联合假设,因而在处理多重约束、政策效应比较和模型简化等场景中具有不可替代的作用。其理论基础源于普通最小二乘法 (OLS) 框架下残差平方和的分解,检验统计量服从F分布,因此常被称为F检验。
问题的提出
考虑标准的多变量线性回归模型:
其中 为 因变量向量, 为 设计矩阵(包含截距项), 为 参数向量, 为误差向量。
在许多实证研究中,研究者关心的并非单个斜率系数是否为零,而是一组线性约束是否同时成立。典型问题包括:
- 排除性约束:某几个自变量是否对因变量没有解释力,即它们的系数是否同时为零。例如,。
- 系数相等性:两个自变量的边际效应是否相同。例如,。
- 线性组合约束:参数满足某个线性关系。例如,生产函数中规模报酬不变的检验:。
- 结构变化检验:Chow检验即是一般线性假设的特例,用于检验两个子样本的回归系数是否相等。
这些假设都可以统一表示为如下一般形式:
其中 是一个 的约束矩阵( 为约束条件的个数), 是一个 的常数向量,且 行满秩(即各约束条件线性独立)。
模型的两种估计
为了检验 ,需要估计两个版本的模型:
- 无限制模型 (Unrestricted Model):不施加任何约束,直接对原模型进行 OLS 估计,得到残差平方和 。
- 受限制模型 (Restricted Model):在 的约束下进行约束最小二乘法估计,得到残差平方和 。
由于受限制模型在更小的参数空间中优化,其残差平方和必然不小于无限制模型的残差平方和,即 。直觉上,如果约束条件为真,两个残差平方和应相对接近;反之,若约束为假, 将显著大于 。
F统计量的构造
一般线性假设检验的检验统计量为:
在 成立且经典线性模型假设满足的条件下,该统计量服从分子自由度为 、分母自由度为 的F分布:
其中:
- 为约束条件的数量(分子自由度)。
- 为样本容量。
- 为自变量的个数(不含截距项)。
- 衡量了因施加约束而增加的残差变异。
F统计量也可以等价地用决定系数 表示:
其中 和 分别为无限制模型和受限制模型的决定系数。这一形式在实际计算中更为便捷,因为大多数统计软件直接报告 。
与t检验的关系
当约束条件只有一个(即 )时,F检验与t检验存在精确的对应关系:,且 分布中一个自由度为 的 F 随机变量恰等于一个自由度为 的 t 随机变量的平方。因此,对于单参数检验,使用 F 检验或双边 t 检验会得到完全一致的 p 值。
然而,当 时,F检验的联合推断具有 t 检验无法替代的优势。单独对各系数进行多个 t 检验会膨胀第一类错误(即错误地拒绝至少一个真实原假设的概率超过名义显著性水平)。F检验通过一次性地检验联合假设,控制了整体的显著性水平,避免了多重比较问题。
常见应用场景
排除性约束检验
检验一组变量是否对因变量没有解释力。例如,在工资方程中,检验工作经验、工作经验平方和受教育年限的交互项是否同时不显著:
受限制模型将这些变量从回归中移除。若 F 统计量不显著,则可以简化模型。
Chow检验(结构变化检验)
Chow检验检验两个时期(或两组)的回归系数是否完全相同。其本质是检验 个系数的等值约束。设两个子样本的容量分别为 和 ,无限制模型分别对两组估计(共 个观测, 个参数),受限制模型则对全样本施加等系数约束。对应的 q 等于 。
规模报酬检验
在柯布-道格拉斯生产函数 中,常数规模报酬要求 ,对应 ,。F检验可直接对此线性约束进行推断。
检验的假设条件与诊断
一般线性假设检验的有效性依赖于经典线性回归模型的假设:
- 误差项服从正态分布:这是 F 统计量在小样本下精确服从 F 分布的关键。在大样本下,由于中心极限定理,F 统计量渐近服从 分布,正态性假设可以放松。
- 同方差性:若存在异方差性,标准的 F 检验不再有效。此时需使用异方差-稳健标准误并构造Wald检验统计量。
- 无完全共线性:设计矩阵必须满列秩。
当同方差假设不成立时,可以采用异方差稳健的 Wald 统计量:
其中 为怀特异方差稳健协方差矩阵估计量。
与其他检验框架的关系
一般线性假设检验是三种经典大样本检验的特例或近亲:
- Wald检验:仅需估计无限制模型,直接检验 是否接近零向量。在经典线性模型且正态误差下,Wald 统计量乘以适当的缩放因子等价于 F 统计量。
- 似然比检验 (LR Test):分别估计受限制和无限制模型的似然函数,比较二者的差异。在正态线性回归中,LR 统计量是 F 统计量的单调变换。
- 拉格朗日乘数检验 (LM Test / Score Test):仅需估计受限制模型,检验受限制估计量处的得分向量是否接近于零。适用于受限制模型较易估计的场合。
在正态线性回归模型中,三者渐近等价,且在小样本下 F 检验是精确检验。在非正态或非线性模型中,三者的数值可能不同,但均服从相同的渐近 分布。
实际计算与解释
在实际操作中,进行一般线性假设检验的步骤为:
- 明确约束矩阵 和常数向量 。
- 估计无限制模型,记录 或 。
- 估计受限制模型,记录 或 。
- 代入 F 统计量公式,计算 F 值。
- 在给定显著性水平 下,若 (临界值),则拒绝 ;或等价地,若p值小于 ,则拒绝 。
- 拒绝 意味着至少有一个约束条件不成立;但 F 检验本身并不指出具体哪些约束被违反。此时需要进一步分析单个约束或子集约束。
大多数计量软件(如Stata、R语言、Python的 statsmodels 包)均提供了内置命令来执行一般线性假设检验。例如 Stata 中的 \texttt{test} 命令、R 中的 \texttt{linearHypothesis()} 函数(来自 \texttt{car} 包)等,可直接输入线性约束的表达式,由程序自动构造 R 矩阵并计算 F 统计量及其 p 值。