知经百科 / J

渐进方差

渐进方差 (Asymptotic Variance)

渐进方差(Asymptotic Variance)→数理统计/计量→描估计量当样本量趋于无穷时极限分布之离散程度。与"精确"方差(有限样本方差)不同→渐进方差反映估计量极限(通常为正态分布)之方差参数,乃大样本渐近性质核心概念。

定义与形式

若{θ^n}n=1∞\{\hat{\theta}_n\}_{n=1}^\infty为参数θ估计量序列→满足

n(θ^n−θ)→dN(0,σ2)\sqrt{n}(\hat{\theta}_n-\theta)\xrightarrow{d} N(0,\sigma^2)

→称σ²/n为θ^n\hat{\theta}_n之渐进方差(或渐近方差)→σ²称渐进方差参数。正式记:Asy.Var(θ^n)=σ2/n\mathrm{Asy.Var}(\hat{\theta}_n)=\sigma^2/n。定义中公式暂不可显示{n}标准化使极限分布非退化→此因大多数一致且正则条件下估计量收敛速为n\sqrt{n}。

重要区分:渐进方差≠\neq精确方差极限。后者为零(估计量一致时)。渐进方差乃缩放极限方差=lim⁡n→∞n⋅Var(θ^n)\lim_{n\to\infty} n\cdot\mathrm{Var}(\hat{\theta}_n)。

与Fisher信息量关系

对极大似然估计(MLE)→渐进方差可达Cramér-Rao下界。正则条件下:

n(θ^MLE−θ)→dN(0,I(θ)−1)\sqrt{n}(\hat{\theta}_{MLE}-\theta)\xrightarrow{d} N(0,\mathcal{I}(\theta)^{-1})

其中I(θ)\mathcal{I}(\theta)为Fisher信息量(单次观测)。故MLE之渐进方差=I\mathcal{I}(θ\theta)^{-1}/n →MLE具渐近有效性。此乃MLE成为统计推断首选方法要因。

渐进方差估计

实践中需估计渐进方差→常用方法:插入法(Plug-in)→以θ^n\hat{\theta}_n代入渐方差公式得Asy.Var^\widehat{\mathrm{Asy.Var}}。对MLE→用观测Fisher信息矩阵之逆:

Asy.Var^(θ^MLE)=[−∇2ℓn(θ^MLE)]−1\widehat{\mathrm{Asy.Var}}(\hat{\theta}_{MLE})=\big[-\nabla^2\ell_n(\hat{\theta}_{MLE})\big]^{-1}

其中ℓn\ell_n为对数似然函数。或用期望Fisher信息之逆估。

Delta方法→已知某估计量渐方差→求其可微函数g(θ^\hat{\theta})之渐方差:

Asy.Var(g(θ^n))=[g′(θ)]2⋅Asy.Var(θ^n)\mathrm{Asy.Var}(g(\hat{\theta}_n))=[g'(\theta)]^2\cdot\mathrm{Asy.Var}(\hat{\theta}_n)

。多元情形:Asy.Var(g(θ^n))=∇g(θ)TΣ∇g(θ)/n\mathrm{Asy.Var}(g(\hat{\theta}_n))=\nabla g(\theta)^T\Sigma\nabla g(\theta)/n。

与标准误关系

渐进标准误(Asymptotic Standard Error)→渐进方差之平方根:ASE^(θ^n)=Asy.Var^(θ^n)\widehat{\mathrm{ASE}}(\hat{\theta}_n)=\sqrt{\widehat{\mathrm{Asy.Var}}(\hat{\theta}_n)}。用于构造置信区间:θ^n±zα/2⋅ASE^\hat{\theta}_n\pm z_{\alpha/2}\cdot\widehat{\mathrm{ASE}}。此区间具正确渐近覆盖概率→有限样本质虽不一定最优→大样本下可靠。

GMM与渐进方差

广义矩估计(GMM)之渐进方差具特殊结构→与矩条件个数及权重矩阵关。对恰定GMM:

n(θ^GMM−θ)→dN(0,(GTWG)−1GTWSWG(GTWG)−1)\sqrt{n}(\hat{\theta}_{GMM}-\theta)\xrightarrow{d} N(0,(G^TWG)^{-1}G^TWSWG(G^TWG)^{-1})

G为矩条件导矩阵→W为权重矩阵。最优权(W=S−1W=S^{-1})下缩为(GTS−1G)−1(G^TS^{-1}G)^{-1}→达渐近有效。

应用示例

样本均值→CLT:n(Xˉ−μ)→N(0,σ2)\sqrt{n}(\bar{X}-\mu)\to N(0,\sigma^2)→渐方差=σ²/n→样本方差渐进方差:Delta方法→Sn2S_n^2为σ²一致估→n(Sn2−σ2)→N(0,μ4−σ4)\sqrt{n}(S_n^2-\sigma^2)\to N(0,\mu_4-\sigma^4)→μ₄为四阶中心矩→OLS渐方差:n(β^OLS−β)→N(0,σ2QXX−1)\sqrt{n}(\hat{\beta}_{OLS}-\beta)\to N(0,\sigma^2Q_{XX}^{-1})→QXXQ_{XX}为设计矩阵二阶矩极限→MLE:同前Fisher逆→IV/2SLS渐方差含内生性调整。

渐进方差概念连接大样本理论之一致性与渐近正态性→为估计量精度比较、假设检验与置信区间构造之基石。深入解→参考估计量、Delta方法、Fisher信息矩阵、GMM。

返回百科索引