标准误 (Standard Error)
标准误 (Standard Error, SE) 是统计量抽样分布的标准差。它量化了样本统计量（如样本均值、回归系数）作为总体参数估计量的精确度——标准误越小，估计越精确。标准误是推断统计学 的基石，贯穿置信区间 构造、假设检验 和模型诊断的全过程。
定义与基本公式
设 X 1 , X 2 , … , X n X_1, X_2, \ldots, X_n X 1 , X 2 , … , X n μ \mu μ σ 2 \sigma^2 σ 2 X ˉ = 1 n ∑ i = 1 n X i \bar{X} = \frac{1}{n}\sum_{i=1}^n X_i X ˉ = n 1 ∑ i = 1 n X i
Var ( X ˉ ) = Var ( 1 n ∑ i = 1 n X i ) = 1 n 2 ∑ i = 1 n Var ( X i ) = σ 2 n \operatorname{Var}(\bar{X}) = \operatorname{Var}\!\left(\frac{1}{n}\sum_{i=1}^n X_i\right) = \frac{1}{n^2}\sum_{i=1}^n \operatorname{Var}(X_i) = \frac{\sigma^2}{n} Var ( X ˉ ) = Var ( n 1 i = 1 ∑ n X i ) = n 2 1 i = 1 ∑ n Var ( X i ) = n σ 2 由此，均值的标准误 定义为：
SE ( X ˉ ) = Var ( X ˉ ) = σ n \text{SE}(\bar{X}) = \sqrt{\operatorname{Var}(\bar{X})} = \frac{\sigma}{\sqrt{n}} SE ( X ˉ ) = Var ( X ˉ ) = n σ 其中 σ \sigma σ n n n σ \sigma σ n \sqrt{n} n
在实际应用中，总体标准差 σ \sigma σ 样本标准差 s s s 估计标准误 ：
SE ^ ( X ˉ ) = s n , s = 1 n − 1 ∑ i = 1 n ( X i − X ˉ ) 2 \widehat{\text{SE}}(\bar{X}) = \frac{s}{\sqrt{n}}, \quad s = \sqrt{\frac{1}{n-1}\sum_{i=1}^n (X_i - \bar{X})^2} SE ( X ˉ ) = n s , s = n − 1 1 i = 1 ∑ n ( X i − X ˉ ) 2 其中 n − 1 n-1 n − 1 s 2 s^2 s 2 σ 2 \sigma^2 σ 2 贝塞尔校正 ）。
标准误与标准差的区别
初学者常将二者混淆，但它们在概念上有本质区别：
标准差 (Standard Deviation, SD) 描述个体数据点 围绕均值的离散程度，度量的是总体或样本本身的变异性。它不随样本量增大而系统性减小；即使 n → ∞ n \to \infty n → ∞ σ \sigma σ 标准误 (Standard Error, SE) 描述样本统计量 （通常是均值）围绕总体参数的理论分布的离散程度，度量的是估计量的精确度。SE 随 n n n SE ∝ 1 / n \text{SE} \propto 1/\sqrt{n} SE ∝ 1/ n 简言之：SD 回答“数据点与均值的典型距离是多少？”；SE 回答“样本均值与总体均值的典型距离是多少？”
中心极限定理中的角色
中心极限定理 (CLT) 断言：当 n n n X ˉ \bar{X} X ˉ
X ˉ ∼ ⋅ N ( μ , σ 2 n ) 或等价地 X ˉ − μ σ / n ∼ ⋅ N ( 0 , 1 ) \bar{X} \stackrel{\cdot}{\sim} \mathcal{N}\!\left(\mu,\; \frac{\sigma^2}{n}\right) \quad \text{或等价地} \quad \frac{\bar{X} - \mu}{\sigma / \sqrt{n}} \stackrel{\cdot}{\sim} \mathcal{N}(0,1) X ˉ ∼ ⋅ N ( μ , n σ 2 ) 或等价地 σ / n X ˉ − μ ∼ ⋅ N ( 0 , 1 ) 其中的分母 σ / n \sigma / \sqrt{n} σ / n
回归模型中的标准误
在线性回归 中，标准误同样至关重要。考虑模型：
y i = β 0 + β 1 x i + ε i , ε i ∼ N ( 0 , σ 2 ) y_i = \beta_0 + \beta_1 x_i + \varepsilon_i, \quad \varepsilon_i \sim \mathcal{N}(0, \sigma^2) y i = β 0 + β 1 x i + ε i , ε i ∼ N ( 0 , σ 2 ) OLS 估计量 β ^ 1 \hat{\beta}_1 β ^ 1
SE ( β ^ 1 ) = σ ∑ i = 1 n ( x i − x ˉ ) 2 \text{SE}(\hat{\beta}_1) = \frac{\sigma}{\sqrt{\sum_{i=1}^n (x_i - \bar{x})^2}} SE ( β ^ 1 ) = ∑ i = 1 n ( x i − x ˉ ) 2 σ 在实践中，用残差标准误 σ ^ 2 = 1 n − 2 ∑ i = 1 n ε ^ i 2 \hat{\sigma}^2 = \frac{1}{n-2}\sum_{i=1}^n \hat{\varepsilon}_i^2 σ ^ 2 = n − 2 1 ∑ i = 1 n ε ^ i 2 σ 2 \sigma^2 σ 2
SE ^ ( β ^ 1 ) = σ ^ ∑ i = 1 n ( x i − x ˉ ) 2 \widehat{\text{SE}}(\hat{\beta}_1) = \frac{\hat{\sigma}}{\sqrt{\sum_{i=1}^n (x_i - \bar{x})^2}} SE ( β ^ 1 ) = ∑ i = 1 n ( x i − x ˉ ) 2 σ ^ 回归系数标准误的直观意义：数据点在回归线周围的离散度越大（σ ^ \hat{\sigma} σ ^
稳健标准误
经典标准误依赖于同方差假设（Var ( ε i ) = σ 2 \operatorname{Var}(\varepsilon_i) = \sigma^2 Var ( ε i ) = σ 2 异方差 存在时，传统标准误是有偏的，通常导致过度拒绝原假设。Eicker-Huber-White标准误
Var ( β ^ ) robust = ( X ′ X ) − 1 ( ∑ i = 1 n ε ^ i 2 x i x i ′ ) ( X ′ X ) − 1 \text{Var}(\hat{\beta})_{\text{robust}} = (X'X)^{-1} \left(\sum_{i=1}^n \hat{\varepsilon}_i^2 x_i x_i'\right) (X'X)^{-1} Var ( β ^ ) robust = ( X ′ X ) − 1 ( i = 1 ∑ n ε ^ i 2 x i x i ′ ) ( X ′ X ) − 1 其中 x i x_i x i i i i ε ^ i \hat{\varepsilon}_i ε ^ i
更一般地，HAC标准误
置信区间与假设检验
标准误的直接应用之一是构造置信区间 。在大样本正态近似下，参数 θ \theta θ 100 ( 1 − α ) % 100(1-\alpha)\% 100 ( 1 − α ) %
θ ^ ± z α / 2 ⋅ SE ^ ( θ ^ ) \hat{\theta} \pm z_{\alpha/2} \cdot \widehat{\text{SE}}(\hat{\theta}) θ ^ ± z α /2 ⋅ SE ( θ ^ ) 其中 z α / 2 z_{\alpha/2} z α /2 z 0.025 ≈ 1.96 z_{0.025} \approx 1.96 z 0.025 ≈ 1.96 t分布 临界值替代：θ ^ ± t n − 1 , α / 2 ⋅ SE ^ ( θ ^ ) \hat{\theta} \pm t_{n-1, \alpha/2} \cdot \widehat{\text{SE}}(\hat{\theta}) θ ^ ± t n − 1 , α /2 ⋅ SE ( θ ^ )
在假设检验 中，检验统计量的核心结构为：
t = θ ^ − θ 0 SE ^ ( θ ^ ) t = \frac{\hat{\theta} - \theta_0}{\widehat{\text{SE}}(\hat{\theta})} t = SE ( θ ^ ) θ ^ − θ 0 这一定义适用于均值检验（单样本 t 检验、双样本t检验 ）、回归系数显著性检验（t统计量 ）以及更一般的沃尔德检验 。标准误越小，在给定效应大小下检验统计量越大，越容易拒绝零假设。
有限总体修正
当样本来自有限总体（大小为 N N N n / N n/N n / N n / N > 0.05 n/N > 0.05 n / N > 0.05 有限总体修正系数 (FPC)：
SE ( X ˉ ) = σ n ⋅ N − n N − 1 \text{SE}(\bar{X}) = \frac{\sigma}{\sqrt{n}} \cdot \sqrt{\frac{N - n}{N - 1}} SE ( X ˉ ) = n σ ⋅ N − 1 N − n FPC 反映了不放回抽样的特点：当 n n n N N N
Delta方法
当关注的是参数的函数 g ( θ ) g(\theta) g ( θ ) Delta方法
Var ( g ( θ ^ ) ) ≈ [ g ′ ( θ ) ] 2 ⋅ Var ( θ ^ ) \operatorname{Var}(g(\hat{\theta})) \approx [g'(\theta)]^2 \cdot \operatorname{Var}(\hat{\theta}) Var ( g ( θ ^ )) ≈ [ g ′ ( θ ) ] 2 ⋅ Var ( θ ^ ) 因此：
SE ( g ( θ ^ ) ) ≈ ∣ g ′ ( θ ^ ) ∣ ⋅ SE ( θ ^ ) \text{SE}(g(\hat{\theta})) \approx |g'(\hat{\theta})| \cdot \text{SE}(\hat{\theta}) SE ( g ( θ ^ )) ≈ ∣ g ′ ( θ ^ ) ∣ ⋅ SE ( θ ^ ) 例如，若 θ ^ \hat{\theta} θ ^ log ( θ ^ / ( 1 − θ ^ ) ) \log(\hat{\theta} / (1 - \hat{\theta})) log ( θ ^ / ( 1 − θ ^ ))
常见标准误一览
均值标准误 ：SE ( X ˉ ) = σ / n \text{SE}(\bar{X}) = \sigma / \sqrt{n} SE ( X ˉ ) = σ / n 比例标准误 ：SE ( p ^ ) = p ( 1 − p ) / n \text{SE}(\hat{p}) = \sqrt{p(1-p) / n} SE ( p ^ ) = p ( 1 − p ) / n 两均值差异标准误 （独立样本）：SE ( X ˉ 1 − X ˉ 2 ) = σ 1 2 n 1 + σ 2 2 n 2 \text{SE}(\bar{X}_1 - \bar{X}_2) = \sqrt{\frac{\sigma_1^2}{n_1} + \frac{\sigma_2^2}{n_2}} SE ( X ˉ 1 − X ˉ 2 ) = n 1 σ 1 2 + n 2 σ 2 2 回归系数标准误 ：SE ( β ^ j ) \text{SE}(\hat{\beta}_j) SE ( β ^ j ) ( X ′ X ) − 1 ⋅ σ ^ 2 (X'X)^{-1} \cdot \hat{\sigma}^2 ( X ′ X ) − 1 ⋅ σ ^ 2 j j j 相关系数标准误 （Fisher z 变换）：SE ( z ^ ) = 1 / n − 3 \text{SE}(\hat{z}) = 1 / \sqrt{n-3} SE ( z ^ ) = 1/ n − 3 z = 1 2 ln 1 + r 1 − r z = \frac{1}{2}\ln\frac{1+r}{1-r} z = 2 1 ln 1 − r 1 + r 报告规范与解释
在经济学实证论文中，标准误通常以括号形式紧邻系数估计值报告，例如：
0.156 ( 0.023 ) \underset{(0.023)}{0.156} ( 0.023 ) 0.156 表示系数估计值为 0.156，标准误为 0.023。常见的标注系统包括：聚类标准误 （在括号内注明）、Bootstrap标准误 （附注说明重抽样方式）以及异方差稳健标准误 （标注 "robust"）。
解释标准误时需注意：它衡量的是估计量的精度而非模型的拟合优度。一个显著的系数（t 值大）可能源于真实的效应，也可能源于过小的标准误（如模型设定偏误导致方差低估）。因此，在评估实证结果时，研究者通常报告标准误的构造方式（同方差、稳健、聚类、Bootstrap等），以保证透明性和可复现性。
聚类标准误
当数据具有组内相关结构时（如面板数据中同一个体在不同时期的观测，或同一学校内不同学生的成绩），独立同分布假设不再成立。忽略这种组内相关会导致标准误严重低估和过度拒绝零假设。聚类标准误 (Clustered Standard Errors) 允许同一聚类内的观测存在任意形式的相关性，而不同聚类之间保持独立。其方差估计量为：
Var ( β ^ ) cluster = ( X ′ X ) − 1 ( ∑ g = 1 G X g ′ ε ^ g ε ^ g ′ X g ) ( X ′ X ) − 1 \operatorname{Var}(\hat{\beta})_{\text{cluster}} = (X'X)^{-1} \left(\sum_{g=1}^G X_g' \hat{\varepsilon}_g \hat{\varepsilon}_g' X_g\right) (X'X)^{-1} Var ( β ^ ) cluster = ( X ′ X ) − 1 ( g = 1 ∑ G X g ′ ε ^ g ε ^ g ′ X g ) ( X ′ X ) − 1 其中 G G G X g X_g X g ε ^ g \hat{\varepsilon}_g ε ^ g g g g G ≥ 50 G \geq 50 G ≥ 50
Bootstrap标准误
Bootstrap B B B θ ^ b ∗ \hat{\theta}_b^* θ ^ b ∗
SE ^ boot = 1 B − 1 ∑ b = 1 B ( θ ^ b ∗ − θ ^ ∗ ‾ ) 2 \widehat{\text{SE}}_{\text{boot}} = \sqrt{\frac{1}{B-1}\sum_{b=1}^B \left(\hat{\theta}_b^* - \overline{\hat{\theta}^*}\right)^2} SE boot = B − 1 1 b = 1 ∑ B ( θ ^ b ∗ − θ ^ ∗ ) 2 其中 θ ^ ∗ ‾ = 1 B ∑ b = 1 B θ ^ b ∗ \overline{\hat{\theta}^*} = \frac{1}{B}\sum_{b=1}^B \hat{\theta}_b^* θ ^ ∗ = B 1 ∑ b = 1 B θ ^ b ∗ B B B
标准误与样本量的关系
标准误与样本量之间遵循 1 / n 1/\sqrt{n} 1/ n
精度提升的边际递减 ：将标准误减半需要将样本量增至原来的四倍。研究者应意识到大样本并不能无限度地压缩不确定性。效应量与显著性 ：在大样本下，即使是微小的、实际上无意义的效应也可能因极小的标准误而统计显著。因此，效应量 （如Cohen's d）与标准误应同时报告，以区分统计显著性与实际显著性。功效分析中的角色 ：在统计功效 分析中，最小可检测效应大小与标准误成正比——给定显著性水平和期望功效，标准误越小，能检测到的效应越小。蒙特卡洛视角
理解标准误的一个直观方式是蒙特卡洛模拟 ：假设计算机从已知分布中反复抽取容量为 n n n σ / n \sigma/\sqrt{n} σ / n 反事实 本质——它描述的是“如果我们重复实验很多次，估计量会怎样变动”，而非单一样本的性质。在计量经济学教学中，通过蒙特卡洛实验可视化标准误与样本量的关系，已成为帮助学生建立直觉的标准手段。