WLS

WLS (Weighted Least Squares)

WLS，即加权最小二乘法（Weighted Least Squares），是计量经济学和统计学中一种重要的回归分析方法，是普通最小二乘法（OLS）的推广。当回归模型的误差项违反同方差性假设——即存在异方差性（不同观测值误差项具有不同方差）时，WLS通过赋予不同观测值不同权重，能够得到比OLS更有效的估计量。WLS是广义最小二乘法（GLS）在误差项不存在自相关但存在异方差性特定情境下的特例。

异方差性问题与WLS原理

在标准线性回归模型$y_i = \mathbf{x}_i'\boldsymbol{\beta} + \epsilon_i$中，高斯-马尔可夫假设要求同方差性$Var(\epsilon_i|\mathbf{X}) = \sigma^2$。异方差性指$Var(\epsilon_i) = \sigma_i^2$随观测值而变化——如高收入家庭消费波动性远大于低收入家庭。异方差的后果是：OLS估计量虽仍为无偏和一致的，但不再是最佳线性无偏估计量（BLUE）；OLS方差计算的标准公式失效，导致基于此的假设检验（t检验和F检验）及置信区间不可靠。

WLS核心思想：噪声大小不同的观测值不应平等对待——误差方差较大的观测值赋予较小权重，误差方差较小的赋予较大权重。通过用$1/\sigma_i$加权原始模型实现变换：$y_i/\sigma_i = (\mathbf{x}_i'/\sigma_i)\boldsymbol{\beta} + \epsilon_i/\sigma_i$。变换后误差项方差$Var(\epsilon_i^*) = Var(\epsilon_i/\sigma_i) = (1/\sigma_i^2)\sigma_i^2 = 1$为常数——新模型满足同方差性假定。

WLS估计量与实施

对变换后的模型应用OLS即得WLS估计量：$\hat{\boldsymbol{\beta}}_{WLS} = (\mathbf{X}'\mathbf{W}\mathbf{X})^{-1}\mathbf{X}'\mathbf{W}\mathbf{y}$，其中权重矩阵$\mathbf{W} = \text{diag}(1/\sigma_1^2, \ldots, 1/\sigma_n^2)$的对角线元素为各观测方差的倒数。WLS估计量为无偏且一致，且在异方差下比OLS估计量更有效——是异方差假定下的BLUE。

实际应用中真实方差$\sigma_i^2$通常未知，需通过可行加权最小二乘法（Feasible WLS, FWLS）实现：第一步运行OLS获取残差$e_i$；第二步通过残差平方$e_i^2$对自变量或其函数回归来估计方差函数$\hat{\sigma}_i^2$；第三步以$1/\hat{\sigma}_i^2$为权重运行WLS。常用方法包括White异方差稳健标准误（仅修正方差估计而不改变系数估计）、对变量进行对数变换或Box-Cox变换稳定方差、或使用广义线性模型（GLM）框架直接建模均值-方差关系。

WLS在实证经济学中广泛应用于横截面数据的回归分析，特别是涉及不同规模单位（国家、企业、家庭）的异方差调整问题——大单位数据波动通常大于小单位，不加权将导致结果被大单位主导。在元分析中，不同研究的估计精度不同，WLS以其信息量为权重发挥关键作用。