ARTICLE

似然比检验统计量

似然比检验统计量 (Likelihood-Ratio Test Statistic) 似然比检验统计量(Likelihood-Ratio Test Statistic)是统计推断中进行假设检验的核心工具,源于似然比检验(LRT)——通过比较两个竞争性统计模型的拟合优度进行决策的方法。根本思想是:若原假设的约束正确,则模型的似然函数值不应显著下降。 理论定义

浏览 2 更新 2025-11-24

似然比检验统计量 (Likelihood-Ratio Test Statistic)

似然比检验统计量(Likelihood-Ratio Test Statistic)是统计推断中进行假设检验的核心工具,源于似然比检验(LRT)——通过比较两个竞争性统计模型的拟合优度进行决策的方法。根本思想是:若原假设的约束正确,则模型的似然函数值不应显著下降。

理论定义

设参数空间为Ω\Omega原假设H0H_0为参数θ\theta属于子集Ω0Ω\Omega_0 \subset \Omega(约束模型),备择假设H1H_1θΩ0\theta \notin \Omega_0(无约束模型,通常以整个Ω\Omega为范围)。似然比检验统计量λLR\lambda_{LR}定义为约束下最大化似然值与整个参数空间下最大化似然值的比率:

λLR=supθΩ0L(θx)supθΩL(θx)=L(θ^0x)L(θ^MLEx)\lambda_{LR} = \frac{\sup_{\theta \in \Omega_0} L(\theta|\mathbf{x})}{\sup_{\theta \in \Omega} L(\theta|\mathbf{x})} = \frac{L(\hat{\theta}_0|\mathbf{x})}{L(\hat{\theta}_{MLE}|\mathbf{x})}

其中分母为最大似然估计量θ^MLE\hat{\theta}_{MLE}在全参数空间下的似然值,分子为约束下最大化似然值θ^0\hat{\theta}_0。由于约束集为全空间子集,0λLR10 \le \lambda_{LR} \le 1λLR\lambda_{LR}接近1表示约束未显著降低似然(支持H0H_0),λLR\lambda_{LR}接近0表示约束严重降低似然(拒绝H0H_0)。

渐近分布与操作形式

为简化分析,采用对数转换形式:LR=2ln(λLR)=2((θ^MLE)(θ^0))LR = -2 \ln(\lambda_{LR}) = 2(\ell(\hat{\theta}_{MLE}) - \ell(\hat{\theta}_0)),其中(θ)=lnL(θx)\ell(\theta) = \ln L(\theta|\mathbf{x})对数似然函数。LR统计量的行为与λLR\lambda_{LR}相反——支持H0H_0LR0LR \to 0,拒绝H0H_0LRLR \to \infty。决策规则为当LR足够大时拒绝原假设。

LR统计量的核心性质是威尔克斯定理(Wilks' Theorem):在原假设成立的条件下且满足正则条件,LR统计量渐近服从卡方分布——LRdχq2LR \xrightarrow{d} \chi^2_q,其中自由度qq等于约束的个数(即dim(Ω)dim(Ω0)\dim(\Omega) - \dim(\Omega_0))。该渐近结果是似然比检验在应用中广泛采用的基础——它提供了大样本下的临界值来源和p值计算方式。

似然比检验是三大假设检验(与沃尔德检验拉格朗日乘数检验并列)之一,在计量经济学(模型设定检验、嵌套模型比较)、生物统计学广义线性模型的变量选择)、机器学习模型选择特征选择)等各领域广泛使用。相比Wald检验,LRT在非线性约束下和有限样本中通常表现更稳健——因为LR直接比较似然差异而非依赖参数估计量的二次近似。但在有限样本下Wilks定理的近似质量需谨慎对待,特别在小样本和参数维度较高时可能需采用Bartlett校正Bootstrap方法来改进推断的准确性。