ARTICLE

渐进方差

渐进方差 (Asymptotic Variance) 渐进方差(Asymptotic Variance)→数理统计/计量→描估计量当样本量趋于无穷时极限分布之离散程度。与"精确"方差(有限样本方差)不同→渐进方差反映估计量极限(通常为正态分布)之方差参数,乃大样本渐近性质核心概念。 定义与形式 若\ _n\_n=1^ 为参数θ估计量序列→满足 →称σ²/n为

浏览 0 更新 2025-10-28

渐进方差 (Asymptotic Variance)

渐进方差(Asymptotic Variance)→数理统计/计量→描估计量样本量趋于无穷时极限分布之离散程度。与"精确"方差(有限样本方差)不同→渐进方差反映估计量极限(通常为正态分布)之方差参数,乃大样本渐近性质核心概念。

定义与形式

{θ^n}n=1\{\hat{\theta}_n\}_{n=1}^\infty为参数θ估计量序列→满足

n(θ^nθ)dN(0,σ2)\sqrt{n}(\hat{\theta}_n-\theta)\xrightarrow{d} N(0,\sigma^2)

→称σ²/nθ^n\hat{\theta}_n之渐进方差(或渐近方差)→σ²称渐进方差参数。正式记:Asy.Var(θ^n)=σ2/n\mathrm{Asy.Var}(\hat{\theta}_n)=\sigma^2/n。定义中\sqrt{n}标准化使极限分布非退化→此因大多数一致正则条件下估计量收敛速为n\sqrt{n}

重要区分:渐进方差\neq精确方差极限。后者为零(估计量一致时)。渐进方差乃缩放极限方差=limnnVar(θ^n)\lim_{n\to\infty} n\cdot\mathrm{Var}(\hat{\theta}_n)

与Fisher信息量关系

极大似然估计(MLE)→渐进方差可达Cramér-Rao下界正则条件下:

n(θ^MLEθ)dN(0,I(θ)1)\sqrt{n}(\hat{\theta}_{MLE}-\theta)\xrightarrow{d} N(0,\mathcal{I}(\theta)^{-1})

其中I(θ)\mathcal{I}(\theta)Fisher信息量(单次观测)。故MLE之渐进方差=I\mathcal{I}(θ\theta)^{-1}/n →MLE具渐近有效性。此乃MLE成为统计推断首选方法要因。

渐进方差估计

实践中需估计渐进方差→常用方法:插入法(Plug-in)→以θ^n\hat{\theta}_n代入渐方差公式得Asy.Var^\widehat{\mathrm{Asy.Var}}。对MLE→用观测Fisher信息矩阵之逆:

Asy.Var^(θ^MLE)=[2n(θ^MLE)]1\widehat{\mathrm{Asy.Var}}(\hat{\theta}_{MLE})=\big[-\nabla^2\ell_n(\hat{\theta}_{MLE})\big]^{-1}

其中n\ell_n对数似然函数。或用期望Fisher信息之逆估。

Delta方法→已知某估计量渐方差→求其可微函数g(θ^\hat{\theta})之渐方差:

Asy.Var(g(θ^n))=[g(θ)]2Asy.Var(θ^n)\mathrm{Asy.Var}(g(\hat{\theta}_n))=[g'(\theta)]^2\cdot\mathrm{Asy.Var}(\hat{\theta}_n)

。多元情形:Asy.Var(g(θ^n))=g(θ)TΣg(θ)/n\mathrm{Asy.Var}(g(\hat{\theta}_n))=\nabla g(\theta)^T\Sigma\nabla g(\theta)/n

与标准误关系

渐进标准误(Asymptotic Standard Error)→渐进方差之平方根:ASE^(θ^n)=Asy.Var^(θ^n)\widehat{\mathrm{ASE}}(\hat{\theta}_n)=\sqrt{\widehat{\mathrm{Asy.Var}}(\hat{\theta}_n)}。用于构造置信区间θ^n±zα/2ASE^\hat{\theta}_n\pm z_{\alpha/2}\cdot\widehat{\mathrm{ASE}}。此区间具正确渐近覆盖概率→有限样本质虽不一定最优→大样本下可靠。

GMM与渐进方差

广义矩估计(GMM)之渐进方差具特殊结构→与矩条件个数及权重矩阵关。对恰定GMM:

n(θ^GMMθ)dN(0,(GTWG)1GTWSWG(GTWG)1)\sqrt{n}(\hat{\theta}_{GMM}-\theta)\xrightarrow{d} N(0,(G^TWG)^{-1}G^TWSWG(G^TWG)^{-1})

G为矩条件导矩阵→W为权重矩阵。最优权(W=S1W=S^{-1})下缩为(GTS1G)1(G^TS^{-1}G)^{-1}→达渐近有效。

应用示例

样本均值CLTn(Xˉμ)N(0,σ2)\sqrt{n}(\bar{X}-\mu)\to N(0,\sigma^2)→渐方差=σ²/n样本方差渐进方差:Delta方法Sn2S_n^2为σ²一致估→n(Sn2σ2)N(0,μ4σ4)\sqrt{n}(S_n^2-\sigma^2)\to N(0,\mu_4-\sigma^4)→μ₄为四阶中心矩→OLS渐方差:n(β^OLSβ)N(0,σ2QXX1)\sqrt{n}(\hat{\beta}_{OLS}-\beta)\to N(0,\sigma^2Q_{XX}^{-1})QXXQ_{XX}设计矩阵二阶矩极限→MLE:同前Fisher逆→IV/2SLS渐方差含内生性调整。

渐进方差概念连接大样本理论一致性渐近正态性→为估计量精度比较、假设检验与置信区间构造之基石。深入解→参考估计量Delta方法Fisher信息矩阵GMM