KNOWECON WIKI

ARTICLE

有偏

有偏 (Bias) 有偏 (Bias)，亦称偏误，是统计学、计量经济学和机器学习领域的核心概念，用于衡量估计量 (Estimator) 的期望值与待估参数真实值之间的系统性偏差。不同于单次估计产生的随机误差，偏误反映的是估计量在重复抽样下系统性地偏离真实参数的内在倾向，是评价估计量优劣的重要标准之一。在金融资产定价、社会科学因果推断、医学临床试验等众多依赖统

浏览 55 更新 2025-10-26

有偏 (Bias)

有偏 (Bias)，亦称偏误，是统计学、计量经济学和机器学习领域的核心概念，用于衡量估计量 (Estimator) 的期望值与待估参数真实值之间的系统性偏差。不同于单次估计产生的随机误差，偏误反映的是估计量在重复抽样下系统性地偏离真实参数的内在倾向，是评价估计量优劣的重要标准之一。在金融资产定价、社会科学因果推断、医学临床试验等众多依赖统计推断的领域，识别与控制偏误都是保证结论可信度的关键环节。

严格数学定义

设 θ^\hat{\theta} 为未知参数 θ\theta 的某个估计量，偏误的数学定义为：

Bias(θ^)=E[θ^]−θ\text{Bias}(\hat{\theta}) = E[\hat{\theta}] - \theta

其中 E[θ^]E[\hat{\theta}] 是估计量在所有可能样本下取值的数学期望。根据偏误的正负与大小，可将估计量分为三类：若 Bias(θ^)>0\text{Bias}(\hat{\theta}) > 0，称存在正向偏误，即估计量系统性高估真实参数值；若 Bias(θ^)<0\text{Bias}(\hat{\theta}) < 0，称存在负向偏误，即系统性低估真实参数值；若 Bias(θ^)=0\text{Bias}(\hat{\theta}) = 0，则称该估计量无偏 (Unbiased)。需要特别强调的是，偏误是估计量作为统计方法的属性，而非某一次具体估计值的属性——单次估计值与真实值的差异称为估计误差，而偏误是这种误差在大量重复抽样下的系统性倾向。

偏误的主要来源与经典案例

抽样偏误

当样本不能代表目标总体时产生抽样偏误。例如，一项旨在调查居民平均收入的电话调查若仅在工作日白天进行，将系统性遗漏白天在外的上班族，导致样本过多包含退休人员与失业者，从而产生收入估计的系统性偏低。另一个典型例子是存活者偏误 (Survivorship Bias)：在分析基金收益率时，若仅考察存续至今的基金而忽略已经清盘的基金，将高估整体基金行业的平均表现。采用随机抽样 (Random Sampling) 确保样本的代表性是避免抽样偏误的根本手段。

估计量结构导致的偏误

即使在完美随机抽样的条件下，某些估计量的数学结构本身也可产生偏误，尤其在小样本情形下。最经典的案例是样本方差对总体方差 σ2\sigma^{2} 的估计。

给定独立同分布样本 {X1,X2,…,Xn}\{X_{1}, X_{2}, \dots, X_{n}\}，令 Xˉ\bar{X} 为样本均值。一个直观的方差估计量为：

Sn2=1n∑i=1n(Xi−Xˉ)2S_{n}^{2} = \frac{1}{n}\sum_{i=1}^{n}(X_{i} - \bar{X})^{2}

可以证明其期望值为 E[Sn2]=n−1nσ2E[S_{n}^{2}] = \frac{n-1}{n}\sigma^{2}。由于 n−1n<1\frac{n-1}{n} < 1，Sn2S_{n}^{2} 系统性低估总体方差 σ2\sigma^{2}，偏误大小为 −σ2/n-\sigma^{2}/n。为修正此偏误，统计学中通常使用以 n−1n-1 为分母的样本方差：

s2=1n−1∑i=1n(Xi−Xˉ)2s^{2} = \frac{1}{n-1}\sum_{i=1}^{n}(X_{i} - \bar{X})^{2}

其期望值恰好为 σ2\sigma^{2}，因而是总体方差的无偏估计量。分母由 nn 改为 n−1n-1 的操作称为贝塞尔校正 (Bessel's Correction)，其中 n−1n-1 即为自由度 (Degrees of Freedom)。这一案例深刻说明：直觉上自然的估计量未必无偏，经过数学推导的修正往往是必要的。

遗漏变量偏误

在回归分析中，遗漏变量偏误是最为普遍和严重的模型设定误差之一。假设真实的数据生成过程为：

Y=β0+β1X1+β2X2+uY = \beta_{0} + \beta_{1}X_{1} + \beta_{2}X_{2} + u

但研究者错误估计了遗漏 X2X_{2} 的简化模型 Y=α0+α1X1+vY = \alpha_{0} + \alpha_{1}X_{1} + v。若 X2X_{2} 与 YY 相关（即 β2≠0\beta_{2} \neq 0）且 X1X_{1} 与 X2X_{2} 相关（即 Cov(X1,X2)≠0\text{Cov}(X_{1}, X_{2}) \neq 0），则 α^1\hat{\alpha}_{1} 的期望值为：

E[α^1]=β1+β2δ1E[\hat{\alpha}_{1}] = \beta_{1} + \beta_{2}\delta_{1}

其中 δ1\delta_{1} 是 X2X_{2} 对 X1X_{1} 做回归的斜率系数。偏误项 β2δ1\beta_{2}\delta_{1} 的正负与大小取决于遗漏变量对因变量的影响强度及其与已包含变量的相关方向。此偏误的根本原因是模型中内生性 (Endogeneity) 问题的具体表现。

偏误-方差权衡

评判一个估计量时，偏误仅是一个维度。另一个重要维度是方差 (Variance)，衡量估计值在不同样本下的波动程度。理想的估计量应兼具低偏误与低方差。

均方误差 (Mean Squared Error, MSE) 是同时考察偏误和方差的综合性指标：

MSE(θ^)=E[(θ^−θ)2]=[Bias(θ^)]2+Var(θ^)\text{MSE}(\hat{\theta}) = E[(\hat{\theta} - \theta)^{2}] = [\text{Bias}(\hat{\theta})]^{2} + \text{Var}(\hat{\theta})

这一分解揭示了著名的偏误-方差权衡 (Bias-Variance Tradeoff)。过于简单的模型偏误高而方差低，对应欠拟合 (Underfitting)，例如用直线拟合二次曲线关系；过于复杂的模型偏误虽低但方差高，对应过拟合 (Overfitting)，例如用高阶多项式拟合少量样本点。建模的目标通常不是追求零偏误，而是在两者之间取得平衡，使整体 MSE 最小化。岭回归 (Ridge Regression) 和 LASSO 等正则化方法正是通过主动引入少量偏误来大幅降低方差，从而提升模型在新样本上的预测表现。

偏误与一致性的关系

偏误是有限样本 (finite-sample) 性质，描述的是固定样本量下的估计表现。当样本量趋于无穷大时，我们更关心估计量的渐进性质，其中最重要的是一致性 (Consistency)。一个一致估计量随样本量 n→∞n \to \infty 依概率收敛于真实参数值。

有偏估计量仍然可以是一致的，条件是偏误和方差均随样本量增大而趋向于零。前述 Sn2S_{n}^{2} 正是典型例子：其偏误 −σ2/n-\sigma^{2}/n 在 n→∞n \to \infty 时消失，方差也同时收敛于零，因此 Sn2S_{n}^{2} 虽在小样本下有偏，却是 σ2\sigma^{2} 的一致估计量。这一性质在实际应用中具有重要意义——当样本量足够大时，某些在小样本下有偏的估计量仍可提供可靠的推断。

总结

偏误是统计推断中的基础概念，深刻理解其含义与来源对严谨的数据分析工作至关重要。在建模实践中，无偏性虽是理想性质，但并非唯一标准。通过偏误-方差权衡的视角，研究者认识到有时牺牲一定的无偏性来换取方差的大幅下降，可获得整体预测精度更高的模型。对抽样偏误、估计量结构偏误、遗漏变量偏误等各类来源的系统性认知，构成了有效统计建模的认知基础，也是连接理论统计学与应用数据科学的桥梁。