# 无偏估计量 (Unbiased Estimator)
无偏估计量 (Unbiased Estimator) 是{{{数理统计}}}中{{{参数估计}}}理论的一个核心概念。它指的是这样一种{{{估计量}}}：其{{{期望值}}}（或抽样分布的均值）恰好等于被估计的未知{{{总体参数}}}的真值。简而言之，一个无偏估计量在平均意义上是“准确”的，它既不会系统性地高估也不会系统性地低估真实的参数值。
## 定义
令 $θ$ 为一个需要被估计的未知{{{总体参数}}}（例如总体均值 $μ$ 或总体方差 $σ^2$）。我们从该总体中抽取一个大小为 $n$ 的{{{随机样本}}} $X_1, X_2, \ldots, X_n$。基于这个样本，我们构造一个函数 $T(X_1, X_2, \ldots, X_n)$ 来估计 $θ$。这个函数 $T$ 就被称为一个 估计量，通常记作 $\hat{θ}$。
如果一个估计量 $\hat{θ}$ 的{{{期望值}}} $E(\hat{θ})$ 等于参数 $θ$ 的真值，那么我们就称 $\hat{θ}$ 是 $θ$ 的一个 无偏估计量。
数学上表示为： $$ E(\hat{θ}) = θ $$
这里的期望值 $E(\cdot)$ 是在所有可能的样本构成的{{{抽样分布}}}上计算的。这个定义意味着，如果我们能够进行无数次重复抽样，并且每次都计算出一个估计值，那么所有这些估计值的平均数将无限接近于参数的真值 $θ$。
与此相对，如果 $E(\hat{θ}) \neq θ$，则称 $\hat{θ}$ 是一个 {{{有偏估计量}}} (Biased Estimator)。其偏差 (Bias) 定义为： $$ \text{Bias}(\hat{θ}) = E(\hat{θ}) - θ $$ 对于无偏估计量，其偏差为零。
### 直观理解：打靶喻例
- 无偏性 (Unbiasedness) ：可以想象一个射手（估计量）向一个靶心（真实参数 $θ$）射击。如果这位射手是“无偏”的，那么他射出的许多子弹（多次抽样得到的{{{估计值}}}）虽然散布在靶心周围，但所有弹着点的平均位置正好是靶心。单次射击可能偏左、偏右、偏高或偏低，但从长期来看，没有系统性的瞄准偏差。
- 有偏性 (Biasedness) ：一个有偏的射手，即使他的子弹可能打得非常集中，但弹着点的平均位置会系统性地偏离靶心（比如总是偏向左上方）。
## 常见的无偏估计量示例
### 1. 样本均值作为总体均值的估计量
最经典和最常见的无偏估计量是{{{样本均值}}} $\bar{X}$，用它来估计{{{总体均值}}} $μ$。
假设我们有一个来自均值为 $μ$、方差为 $σ^2$ 的总体的随机样本 $X_1, X_2, \ldots, X_n$。样本均值定义为： $$ \bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i $$ 我们可以证明 $\bar{X}$ 是 $μ$ 的一个无偏估计量。利用{{{期望值}}}的线性性质： $$ E(\bar{X}) = E\left(\frac{1}{n} \sum_{i=1}^{n} X_i\right) $$ $$ = \frac{1}{n} \sum_{i=1}^{n} E(X_i) $$ 由于每个样本观测值 $X_i$ 都来自同一个总体，所以 $E(X_i) = μ$ 对所有 $i$ 成立。因此： $$ E(\bar{X}) = \frac{1}{n} \sum_{i=1}^{n} μ = \frac{1}{n} (nμ) = μ $$ 这就证明了样本均值 $\bar{X}$ 是总体均值 $μ$ 的一个无偏估计量。
### 2. 样本方差作为总体方差的估计量
估计{{{总体方差}}} $σ^2$ 的情况更为微妙，也是理解无偏性的一个关键例子。
我们通常使用的{{{样本方差}}} $S^2$ 定义为： $$ S^2 = \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \bar{X})^2 $$ 这里的关键点是分母为 $n-1$ 而不是 $n$。这个 $S^2$ 是总体方差 $σ^2$ 的一个无偏估计量，即 $E(S^2) = σ^2$。
为什么分母是 $n-1$？
这个修正被称为 {{{贝塞尔校正}}} (Bessel's Correction)。我们可以考虑如果分母是 $n$ 会发生什么。令： $$ \hat{σ}^2_n = \frac{1}{n} \sum_{i=1}^{n} (X_i - \bar{X})^2 $$ 可以证明，这个估计量的期望值为： $$ E(\hat{σ}^2_n) = \frac{n-1}{n} σ^2 $$ 由于 $\frac{n-1}{n} < 1$，这意味着 $E(\hat{σ}^2_n)$ 总是小于真实的 $σ^2$。因此，使用 $n$ 作为分母的方差估计量是一个 有偏估计量，它会系统性地低估总体方差。
直观上，这是因为我们在计算离差平方和时，使用的是样本均值 $\bar{X}$ 而不是未知的总体均值 $μ$。数据点围绕其自身的均值 $\bar{X}$ 的离散程度，天然地要比围绕某个其他值（如 $μ$）的离散程度小。这就引入了一个向下的偏差。使用 $n-1$ 作为分母（即除以样本的{{{自由度}}}），恰好可以校正这个偏差，使得估计量变为无偏。
## 无偏估计量的性质与评估标准
无偏性是评价估计量好坏的一个重要但非唯一的标准。一个好的估计量通常还应具备其他优良性质。
1. 效率 (Efficiency) 在所有对同一参数 $θ$ 的无偏估计量中，我们倾向于选择方差最小的那一个。方差越小，意味着估计值的波动性越小，估计结果越稳定和精确。 - 在无偏估计量的集合中，方差最小的那个被称为 {{{最小方差无偏估计量}}} (Minimum Variance Unbiased Estimator, MVUE)。 - 回到打靶的比喻：两位射手都是“无偏”的（平均都打中靶心），但A射手的弹着点非常分散（高方差），而B射手的弹着点非常集中（低方差）。我们显然认为B射手更“高效”。
2. 均方误差 (Mean Squared Error, MSE) {{{均方误差}}}是一个更全面的评估标准，它同时考虑了估计量的偏差和方差。其定义为： $$ \text{MSE}(\hat{θ}) = E\left[(\hat{θ} - θ)^2\right] $$ MSE可以分解为方差和偏差的平方和： $$ \text{MSE}(\hat{θ}) = \text{Var}(\hat{θ}) + [\text{Bias}(\hat{θ})]^2 $$ - 对于无偏估计量，由于 $\text{Bias}(\hat{θ}) = 0$，其MSE就等于它的方差。因此，在无偏估计量中寻找最优者，等同于寻找方差最小者（即MVUE）。 - 然而，在某些情况下，一个轻微有偏但方差极小的估计量，其MSE可能比任何无偏估计量的MSE（即方差）还要小。这引出了统计学中的 {{{偏差-方差权衡}}} (Bias-Variance Tradeoff)。
3. 一致性 (Consistency) {{{一致性}}}或{{{相合性}}}是一个描述估计量在大样本下表现的性质。一个估计量 $\hat{θ}_n$ （下标 $n$ 表示样本量）如果随着样本量 $n$ 的无限增大，依概率收敛于参数真值 $θ$，则称其为一致估计量。 - 这意味着只要样本足够大，我们就有极大的把握得到一个非常接近真实参数的估计值。 - 大多数有用的无偏估计量（如样本均值 $\bar{X}$）也都是一致的。但“无偏”和“一致”是两个独立的概念。一个估计量可以是有偏但一致的（例如前面提到的 $\hat{σ}^2_n$），也可以是无偏但不一致的（虽然这种情况在实际中较少见）。
## 总结
无偏估计量是统计推断的基石，它为我们提供了一种在“平均”意义上不偏离真实目标的估计方法。理解无偏性的核心在于区分单次估计的随机性与多次估计的长期平均趋势。样本均值 $\bar{X}$ 和经过贝塞尔校正的样本方差 $S^2$ 是两个最基础的无偏估计量范例。然而，在评估和选择估计量时，除了无偏性，还必须综合考虑其{{{效率}}}（方差）、{{{均方误差}}}和{{{一致性}}}等重要性质，以在特定问题中做出最合适的选择。寻找{{{最小方差无偏估计量}}}（MVUE）是参数估计理论中的一个重要目标，相关理论如{{{克拉美-罗下界}}} (Cramér-Rao Lower Bound) 为此提供了理论基础。