OLS估计量无偏性的证明

OLS估计量无偏性的证明

无偏性意味着估计量期望值等于总体参数真值。OLS的无偏性是高斯-马尔可夫定理基石。

模型与假设

简单线性回归：$y = \beta_0 + \beta_1 x + u$。证明所需（SLR.1-4）：SLR.1 参数线性；SLR.2 随机抽样（$n$个样本$\{(x_i, y_i)\}$）；SLR.3 $\sum(x_i-\bar{x})^2 > 0$（$x$不全同）；SLR.4 零条件均值 $E(u|x)=0$（最关键——排除了未观测因素与$x$的相关；不满足→遗漏变量偏误→有偏）。注意：无偏性证明不需要SLR.5（同方差性）。

斜率$\hat{\beta}_1$无偏性

$\hat{\beta}_1 = \sum(x_i-\bar{x})(y_i-\bar{y}) / \sum(x_i-\bar{x})^2$。化简分子$\sum(x_i-\bar{x})y_i$（因$\sum(x_i-\bar{x})\bar{y}=0$）。代入总体模型 $y_i = \beta_0 + \beta_1 x_i + u_i$：

以$X$为条件求期望（分母是$x$的函数作常数）：$E(\hat{\beta}_1 \mid X) = \beta_1 + \frac{1}{\sum (x_i-\bar{x})^2} \sum (x_i-\bar{x}) E(u_i \mid X)$。由SLR.4：$E(u_i \mid X)=0$→第二项=0→$E(\hat{\beta}_1 \mid X)=\beta_1$→由全期望定律：$E(\hat{\beta}_1)=\beta_1$。得证。

截距$\hat{\beta}_0$无偏性

$\hat{\beta}_0 = \bar{y} - \hat{\beta}_1 \bar{x}$。代入$\bar{y} = \beta_0 + \beta_1\bar{x} + \bar{u}$：$\hat{\beta}_0 = \beta_0 + (\beta_1-\hat{\beta}_1)\bar{x} + \bar{u}$。求期望：$E(\beta_0)=\beta_0$，$E(\bar{u}) = (1/n)\sum E(u_i) = 0$（SLR.4），$E[(\beta_1-\hat{\beta}_1)\bar{x}]=0$（因已证$E(\hat{\beta}_1)=\beta_1$）→$E(\hat{\beta}_0)=\beta_0$。得证。

结论：SLR.1-4满足→OLS平均而言正确；SLR.4不满足（$x$与$u$相关）→OLS非无偏且非一致估计量→错误推断。