知经百科 / Y

一般线性假设检验

一般线性假设检验 (General Linear Hypothesis Test)

一般线性假设检验计量经济学线性回归分析中的一个核心框架,用于检验关于回归模型参数的一组线性约束条件是否成立。与单个系数的t检验不同,一般线性假设检验允许研究者同时检验多个系数的联合假设,因而在处理多重约束、政策效应比较和模型简化等场景中具有不可替代的作用。其理论基础源于普通最小二乘法 (OLS) 框架下残差平方和的分解,检验统计量服从F分布,因此常被称为F检验

问题的提出

考虑标准的多变量线性回归模型

Y=Xβ+u,uN(0,σ2In)Y = X\beta + u, \quad u \sim N(0, \sigma^2 I_n)

其中 YYn×1n \times 1 因变量向量,XXn×(k+1)n \times (k+1) 设计矩阵(包含截距项),β\beta(k+1)×1(k+1) \times 1 参数向量,uu 为误差向量。

在许多实证研究中,研究者关心的并非单个斜率系数是否为零,而是一组线性约束是否同时成立。典型问题包括:

  1. 排除性约束:某几个自变量是否对因变量没有解释力,即它们的系数是否同时为零。例如,H0:β2=β3=β4=0H_0: \beta_2 = \beta_3 = \beta_4 = 0
  2. 系数相等性:两个自变量的边际效应是否相同。例如,H0:β1=β2H_0: \beta_1 = \beta_2
  3. 线性组合约束:参数满足某个线性关系。例如,生产函数中规模报酬不变的检验:H0:β1+β2=1H_0: \beta_1 + \beta_2 = 1
  4. 结构变化检验Chow检验即是一般线性假设的特例,用于检验两个子样本的回归系数是否相等。

这些假设都可以统一表示为如下一般形式:

H0:Rβ=rH_0: R\beta = r

其中 RR 是一个 q×(k+1)q \times (k+1) 的约束矩阵(qq 为约束条件的个数),rr 是一个 q×1q \times 1 的常数向量,且 RR 行满秩(即各约束条件线性独立)。

模型的两种估计

为了检验 H0H_0,需要估计两个版本的模型:

  • 无限制模型 (Unrestricted Model):不施加任何约束,直接对原模型进行 OLS 估计,得到残差平方和 SSRur\text{SSR}_{ur}
  • 受限制模型 (Restricted Model):在 Rβ=rR\beta = r 的约束下进行约束最小二乘法估计,得到残差平方和 SSRr\text{SSR}_r

由于受限制模型在更小的参数空间中优化,其残差平方和必然不小于无限制模型的残差平方和,即 SSRrSSRur\text{SSR}_r \geq \text{SSR}_{ur}。直觉上,如果约束条件为真,两个残差平方和应相对接近;反之,若约束为假,SSRr\text{SSR}_r 将显著大于 SSRur\text{SSR}_{ur}

F统计量的构造

一般线性假设检验的检验统计量为:

F=(SSRrSSRur)/qSSRur/(nk1)F = \frac{(\text{SSR}_r - \text{SSR}_{ur}) / q}{\text{SSR}_{ur} / (n - k - 1)}

H0H_0 成立且经典线性模型假设满足的条件下,该统计量服从分子自由度为 qq、分母自由度为 (nk1)(n - k - 1)F分布

FFq,nk1F \sim F_{q, n-k-1}

其中:

  • qq 为约束条件的数量(分子自由度)。
  • nn 为样本容量。
  • kk 为自变量的个数(不含截距项)。
  • SSRrSSRur\text{SSR}_r - \text{SSR}_{ur} 衡量了因施加约束而增加的残差变异。

F统计量也可以等价地用决定系数 R2R^2 表示:

F=(Rur2Rr2)/q(1Rur2)/(nk1)F = \frac{(R^2_{ur} - R^2_r) / q}{(1 - R^2_{ur}) / (n - k - 1)}

其中 Rur2R^2_{ur}Rr2R^2_r 分别为无限制模型和受限制模型的决定系数。这一形式在实际计算中更为便捷,因为大多数统计软件直接报告 R2R^2

与t检验的关系

当约束条件只有一个(即 q=1q = 1)时,F检验与t检验存在精确的对应关系:F=t2F = t^2,且 F1,dF_{1, d} 分布中一个自由度为 11 的 F 随机变量恰等于一个自由度为 dd 的 t 随机变量的平方。因此,对于单参数检验,使用 F 检验或双边 t 检验会得到完全一致的 p 值。

然而,当 q>1q > 1 时,F检验的联合推断具有 t 检验无法替代的优势。单独对各系数进行多个 t 检验会膨胀第一类错误(即错误地拒绝至少一个真实原假设的概率超过名义显著性水平)。F检验通过一次性地检验联合假设,控制了整体的显著性水平,避免了多重比较问题

常见应用场景

排除性约束检验

检验一组变量是否对因变量没有解释力。例如,在工资方程中,检验工作经验、工作经验平方和受教育年限的交互项是否同时不显著:

H0:βexper=βexper2=βedu×exper=0H_0: \beta_{\text{exper}} = \beta_{\text{exper}^2} = \beta_{\text{edu} \times \text{exper}} = 0

受限制模型将这些变量从回归中移除。若 F 统计量不显著,则可以简化模型。

Chow检验(结构变化检验)

Chow检验检验两个时期(或两组)的回归系数是否完全相同。其本质是检验 k+1k+1 个系数的等值约束。设两个子样本的容量分别为 n1n_1n2n_2,无限制模型分别对两组估计(共 n1+n2n_1 + n_2 个观测,2(k+1)2(k+1) 个参数),受限制模型则对全样本施加等系数约束。对应的 q 等于 k+1k+1

规模报酬检验

在柯布-道格拉斯生产函数 lnQ=β0+β1lnL+β2lnK+u\ln Q = \beta_0 + \beta_1 \ln L + \beta_2 \ln K + u 中,常数规模报酬要求 β1+β2=1\beta_1 + \beta_2 = 1,对应 R=(0,1,1)R = (0, 1, 1)r=1r = 1。F检验可直接对此线性约束进行推断。

检验的假设条件与诊断

一般线性假设检验的有效性依赖于经典线性回归模型的假设:

  1. 误差项服从正态分布:这是 F 统计量在小样本下精确服从 F 分布的关键。在大样本下,由于中心极限定理,F 统计量渐近服从 χq2/q\chi^2_q / q 分布,正态性假设可以放松。
  2. 同方差性:若存在异方差性,标准的 F 检验不再有效。此时需使用异方差-稳健标准误并构造Wald检验统计量。
  3. 完全共线性:设计矩阵必须满列秩。

当同方差假设不成立时,可以采用异方差稳健的 Wald 统计量:

W=(Rβ^r)[RVar^(β^)robustR]1(Rβ^r)dχq2W = (R\hat{\beta} - r)' \left[ R \cdot \widehat{\text{Var}}(\hat{\beta})_{\text{robust}} \cdot R' \right]^{-1} (R\hat{\beta} - r) \xrightarrow{d} \chi^2_q

其中 Var^(β^)robust\widehat{\text{Var}}(\hat{\beta})_{\text{robust}}怀特异方差稳健协方差矩阵估计量。

与其他检验框架的关系

一般线性假设检验是三种经典大样本检验的特例或近亲:

  • Wald检验:仅需估计无限制模型,直接检验 Rβ^rR\hat{\beta} - r 是否接近零向量。在经典线性模型且正态误差下,Wald 统计量乘以适当的缩放因子等价于 F 统计量。
  • 似然比检验 (LR Test):分别估计受限制和无限制模型的似然函数,比较二者的差异。在正态线性回归中,LR 统计量是 F 统计量的单调变换。
  • 拉格朗日乘数检验 (LM Test / Score Test):仅需估计受限制模型,检验受限制估计量处的得分向量是否接近于零。适用于受限制模型较易估计的场合。

在正态线性回归模型中,三者渐近等价,且在小样本下 F 检验是精确检验。在非正态或非线性模型中,三者的数值可能不同,但均服从相同的渐近 χq2\chi^2_q 分布。

实际计算与解释

在实际操作中,进行一般线性假设检验的步骤为:

  1. 明确约束矩阵 RR 和常数向量 rr
  2. 估计无限制模型,记录 SSRur\text{SSR}_{ur}Rur2R^2_{ur}
  3. 估计受限制模型,记录 SSRr\text{SSR}_rRr2R^2_r
  4. 代入 F 统计量公式,计算 F 值。
  5. 在给定显著性水平 α\alpha 下,若 F>Fq,nk1,αF > F_{q, n-k-1, \alpha}(临界值),则拒绝 H0H_0;或等价地,若p值小于 α\alpha,则拒绝 H0H_0
  6. 拒绝 H0H_0 意味着至少有一个约束条件不成立;但 F 检验本身并不指出具体哪些约束被违反。此时需要进一步分析单个约束或子集约束。

大多数计量软件(如StataR语言Python的 statsmodels 包)均提供了内置命令来执行一般线性假设检验。例如 Stata 中的 \texttt{test} 命令、R 中的 \texttt{linearHypothesis()} 函数(来自 \texttt{car} 包)等,可直接输入线性约束的表达式,由程序自动构造 R 矩阵并计算 F 统计量及其 p 值。

返回百科索引