知经百科 / S

似然比检验统计量

似然比检验统计量 (Likelihood-Ratio Test Statistic)

似然比检验统计量(Likelihood-Ratio Test Statistic)是统计推断中进行假设检验的核心工具,源于似然比检验(LRT)——通过比较两个竞争性统计模型的拟合优度进行决策的方法。根本思想是:若原假设的约束正确,则模型的似然函数值不应显著下降。

理论定义

设参数空间为Ω\Omega,原假设H0H_0为参数θ\theta属于子集Ω0⊂Ω\Omega_0 \subset \Omega(约束模型),备择假设H1H_1为θ∉Ω0\theta \notin \Omega_0(无约束模型,通常以整个Ω\Omega为范围)。似然比检验统计量λLR\lambda_{LR}定义为约束下最大化似然值与整个参数空间下最大化似然值的比率:

λLR=sup⁡θ∈Ω0L(θ∣x)sup⁡θ∈ΩL(θ∣x)=L(θ^0∣x)L(θ^MLE∣x)\lambda_{LR} = \frac{\sup_{\theta \in \Omega_0} L(\theta|\mathbf{x})}{\sup_{\theta \in \Omega} L(\theta|\mathbf{x})} = \frac{L(\hat{\theta}_0|\mathbf{x})}{L(\hat{\theta}_{MLE}|\mathbf{x})}

其中分母为最大似然估计量θ^MLE\hat{\theta}_{MLE}在全参数空间下的似然值,分子为约束下最大化似然值θ^0\hat{\theta}_0。由于约束集为全空间子集,0≤λLR≤10 \le \lambda_{LR} \le 1:λLR\lambda_{LR}接近1表示约束未显著降低似然(支持H0H_0),λLR\lambda_{LR}接近0表示约束严重降低似然(拒绝H0H_0)。

渐近分布与操作形式

为简化分析,采用对数转换形式:LR=−2ln⁡(λLR)=2(ℓ(θ^MLE)−ℓ(θ^0))LR = -2 \ln(\lambda_{LR}) = 2(\ell(\hat{\theta}_{MLE}) - \ell(\hat{\theta}_0)),其中ℓ(θ)=ln⁡L(θ∣x)\ell(\theta) = \ln L(\theta|\mathbf{x})为对数似然函数。LR统计量的行为与λLR\lambda_{LR}相反——支持H0H_0时LR→0LR \to 0,拒绝H0H_0时LR→∞LR \to \infty。决策规则为当LR足够大时拒绝原假设。

LR统计量的核心性质是威尔克斯定理(Wilks' Theorem):在原假设成立的条件下且满足正则条件,LR统计量渐近服从卡方分布——LR→dχq2LR \xrightarrow{d} \chi^2_q,其中自由度qq等于约束的个数(即dim⁡(Ω)−dim⁡(Ω0)\dim(\Omega) - \dim(\Omega_0))。该渐近结果是似然比检验在应用中广泛采用的基础——它提供了大样本下的临界值来源和p值计算方式。

似然比检验是三大假设检验(与沃尔德检验和拉格朗日乘数检验并列)之一,在计量经济学(模型设定检验、嵌套模型比较)、生物统计学(广义线性模型的变量选择)、机器学习(模型选择和特征选择)等各领域广泛使用。相比Wald检验,LRT在非线性约束下和有限样本中通常表现更稳健——因为LR直接比较似然差异而非依赖参数估计量的二次近似。但在有限样本下Wilks定理的近似质量需谨慎对待,特别在小样本和参数维度较高时可能需采用Bartlett校正或Bootstrap方法来改进推断的准确性。

返回百科索引