Frisch-Waugh-Lovell (FWL) 定理

Frisch-Waugh-Lovell（FWL）定理是计量经济学中关于多元线性回归分块估计的核心定理，由拉格纳·弗里希（Ragnar Frisch）和弗雷德里克·沃（Frederick Waugh）于1933年首次阐述，后由迈克尔·洛弗尔（Michael Lovell）于1963年将其推广并系统化。该定理揭示了在线性回归模型中同时包含两组解释变量时，其中一组变量的系数估计可以通过"偏回归"（partial regression）或"剔除"（partialling out）的等价过程实现。FWL定理不仅是理解多元回归内在结构的理论工具，也是高维计量分析中许多现代方法（如固定效应估计、高维回归和机器学习中的去偏推断）的数学基础。

定理的数学表述

考虑线性回归模型：

其中 $y$ 是 $n\times 1$ 的因变量向量，$X$ 是 $n\times k_1$ 的第一组解释变量矩阵，$Z$ 是 $n\times k_2$ 的第二组解释变量矩阵，$\beta$ 和 $\gamma$ 为对应的系数向量，$\varepsilon$ 为误差项。FWL定理断言，$\beta$ 的OLS估计量 $\hat{\beta}$ 可以通过以下三步获得。

第一步：将 $y$ 对 $X$ 回归，得到残差 $\tilde{y} = M_X y$，其中 $M_X = I - X(X'X)^{-1}X'$ 是 $X$ 的消去投影矩阵（annihilator matrix）。

第二步：将 $Z$ 的每一列分别对 $X$ 回归，得到残差矩阵 $\tilde{Z} = M_X Z$。

第三步：将 $\tilde{y}$ 对 $\tilde{Z}$ 进行回归，即 $\hat{\beta} = (\tilde{Z}'\tilde{Z})^{-1}\tilde{Z}'\tilde{y}$。

FWL定理的核心结论是：上述三步估计量 $\hat{\beta}$ 与将 $y$ 同时对 $X$ 和 $Z$ 进行全回归所得 $\beta$ 的OLS估计量完全相等。换言之，$\beta$ 的估计等价于在"剔除"了 $X$ 的影响之后，仅利用 $y$ 和 $Z$ 中与 $X$ 正交的剩余变动进行回归。

回归解剖：直观解释

FWL定理被安格斯·迪顿（Angus Deaton）和约翰·穆尔鲍尔（John Muellbauer）等计量经济学家称为"回归解剖"（regression anatomy），因为它揭示了多元线性回归系数的一种直观解释：$\beta$ 中的每个分量衡量的是，在控制（或者说"剔除"）了 $X$ 的影响之后，$Z$ 的相应变量对 $y$ 的边际效应。换句话说，FWL定理在经济含义上澄清了一个关键问题——回归系数 $\hat{\beta}_j$ 度量的不是 $Z_j$ 对 $y$ 的"总影响"，而是在剥离了所有控制变量 $X$ 的线性影响后，$Z_j$ 中"纯净的"贡献。这种视角使得经济学家能够将极其复杂的多变量回归归结为一系列可理解的单变量关系，从而增强了统计结果的可解释性。

消去投影矩阵的性质

FWL定理的推导依赖于消去投影矩阵 $M_X$ 的若干关键代数性质。$M_X$ 是一个对称幂等矩阵（$M_X = M_X' = M_X^2$），它将任意向量正交投影到 $X$ 的列空间的正交补空间上。因此，$M_X X = 0$——这意味着经过 $M_X$ 变换后，$X$ 本身的所有信息被完全剔除。将这一性质应用于全回归方程 $y = X\beta + Z\gamma + \varepsilon$，两边左乘 $M_X$ 得到 $M_X y = M_X Z\gamma + M_X\varepsilon$。注意到 $M_X X\beta = 0$，原本的 $X\beta$ 项消失了。这一变换后的方程 $\tilde{y} = \tilde{Z}\gamma + \tilde{\varepsilon}$ 恰好是第三步中的回归。正是 $M_X$ 的幂等性和正交性保证了这一变换不改变 $\gamma$ 的真实值，从而使得三步估计等价于全回归。

在面板数据固定效应中的应用

FWL定理在应用计量经济学中最经典且影响深远的应用之一，是面板数据固定效应模型的估计。考虑标准的面板数据模型：

其中 $\alpha_i$ 代表个体固定效应。如果直接用OLS对包含 $n$ 个个体虚拟变量的模型进行估计，将面临维度灾难（当 $n$ 很大时）。然而根据FWL定理，$\beta$ 的估计等价于先消除 $\alpha_i$ 的影响——即对每个个体进行组内去均值（within transformation）——再基于去均值后的数据进行回归。具体而言，令 $X$ 为个体虚拟变量矩阵，$Z$ 为 $x_{it}$ 矩阵，则 $M_X$ 的作用正是将每个变量减去其个体内均值。这解释了为什么固定效应估计量常被称为"组内估计量"（within estimator），以及为什么它等价于在回归中包含个体虚拟变量。FWL定理在此处提供了一条从计算可行到理论等价的桥梁。

在高维计量中的现代意义

随着大数据时代的到来，FWL定理在高维计量经济学和统计学习中的价值获得了全新的彰显。在包含大量控制变量的回归模型中，研究者可借助FWL定理将关注的系数估计问题转化为一个"去偏"（debiased）或"正交化"（orthogonalized）问题。例如，在双机器学习（Double Machine Learning）框架中，FWL定理的精神被直接继承：研究者先用机器学习模型分别拟合因变量和控制变量对工具变量的映射，再对残差进行低维回归，从而在稀疏假设下获得 $\sqrt{n}$ 一致的因果效应估计（参见Chernozhukov et al., 2018）。类似地，在高维固定效应模型（如高维交互固定效应）中，交替投影算法的收敛性分析也依赖于FWL定理所揭示的 $M_X$ 的幂等消去逻辑。

与遗漏变量偏误的关系

FWL定理还为理解遗漏变量偏误（omitted variable bias, OVB）提供了精确的代数框架。假设真实模型为 $y = X\beta + Z\gamma + \varepsilon$，但研究者错误地遗漏了 $Z$ 而仅估计 $y = X\beta + u$。此时 $X$ 的OLS估计量 $\hat{\beta}_{\text{omit}}$ 的期望为 $E(\hat{\beta}_{\text{omit}}) = \beta + (X'X)^{-1}X'Z\gamma$。根据FWL定理，$(X'X)^{-1}X'Z$ 正是辅助回归 $Z = X\delta + v$ 中 $\delta$ 的OLS估计量——即 $Z$ 对 $X$ 回归的系数。因此，遗漏变量偏误的符号和大小完全由两个因素决定：一是 $Z$ 与被遗漏变量 $X$ 之间的关系 $\delta$，二是被遗漏变量 $Z$ 对 $y$ 的真实因果效应 $\gamma$。这一关系在应用研究中是构建敏感性分析和罗布斯特性检验的理论基础。

定理的历史脉络

FWL定理的学术史本身就是一个引人入胜的科学发现的案例。弗里希和沃在1933年的原始论文中首次提出了"偏回归"的概念，但他们的推导依赖几何直观而非代数证明。三十年后，洛弗尔在一个完全不同的经济问题语境中重新发现了这一结果，并给出了严格的矩阵代数证明，同时将其推广到了两组以上变量的情形。洛弗尔的工作使这一定理从一篇几乎被遗忘的挪威论文中的技术细节，提升为计量经济学教科书中的标准内容。直到今天，FWL定理仍然是计量经济学课程中最早介绍的核心定理之一，因为它赋予了学生一个从直观上理解多元回归本质的透镜——所谓"多变量控制"（multivariate control），本质上就是对正交化残差的分析。