伪决定系数

伪决定系数 (Pseudo R-squared)

伪决定系数 (Pseudo R-squared) 是一类用于衡量统计模型拟合优度 (goodness-of-fit) 的统计量，主要应用于广义线性模型 (GLM)、逻辑回归 (Logistic Regression)、多项逻辑回归 (Multinomial Logit) 和泊松回归 (Poisson Regression) 等非普通最小二乘法 (non-OLS) 模型。在经典线性回归中，决定系数 $R^2$ 定义为因变量的总变异中可由模型解释的比例，其值介于 0 和 1 之间。然而，当因变量为分类变量、计数变量或其他非连续类型时，误差项不再满足同方差和正态分布假设，传统的 $R^2$ 计算方式不再适用。因此，统计学家提出了多种替代指标，统称为伪决定系数。

与普通 $R^2$ 不同，各种伪 $R^2$ 指标的取值范围、解释方式和计算公式各不相同，不存在一个在所有情况下都最优的通用指标。以下介绍几种最常用的伪决定系数。

McFadden $R^2$ （似然比指数）

McFadden 伪 $R^2$ 由经济学家 Daniel McFadden 提出，是最常用的伪决定系数之一。其计算公式基于似然函数 (Likelihood Function) 的对数值：

R^2_{\text{McF}} = 1 - \frac{\ln L_{\text{full}}}{\ln L_{\text{null}}}

其中 $L_{\text{full}}$ 是包含所有自变量的完整模型的最大似然估计 (MLE) 的似然值， $L_{\text{null}}$ 是仅包含截距项的零模型 (null model) 的似然值。当完整模型的拟合效果与零模型相同时， $R^2_{\text{McF}} = 0$ ；当模型完美拟合时， $L_{\text{full}} = 1$ ， $\ln L_{\text{full}} = 0$ ，从而 $R^2_{\text{McF}} = 1$ 。在实际应用中，McFadden $R^2$ 的值通常远小于传统 $R^2$ ，其值在 0.2 到 0.4 之间即表示相当良好的拟合。

该指标的优点是直观且与似然比检验 (Likelihood Ratio Test) 有密切联系。然而，它不能像传统 $R^2$ 那样解释为"方差解释比例"。

Cox-Snell $R^2$

Cox 和 Snell 提出的伪 $R^2$ 试图模仿传统 $R^2$ 的似然比性质，其定义为：

R^2_{\text{CS}} = 1 - \left(\frac{L_{\text{null}}}{L_{\text{full}}}\right)^{2/n}

其中 $n$ 是样本量。该指标的值介于 0 和 $1 - L_{\text{null}}^{2/n}$ 之间，这意味着其理论上限小于 1。对于二元逻辑回归，其最大值通常远小于 1，这导致了解释上的困难。

Nagelkerke $R^2$ （Cragg-Uhler $R^2$ ）

为了解决 Cox-Snell $R^2$ 上限小于 1 的问题，Nagelkerke 提出了一个修正版本，将其除以可能达到的最大值：

R^2_{\text{N}} = \frac{R^2_{\text{CS}}}{1 - L_{\text{null}}^{2/n}} = \frac{1 - (L_{\text{null}}/L_{\text{full}})^{2/n}}{1 - L_{\text{null}}^{2/n}}

经过这种缩放后，Nagelkerke $R^2$ 的取值范围为 $[0, 1]$ ，当模型完美拟合时取值为 1。这使得它在直观上更接近传统 $R^2$ ，因而在实证研究中得到了广泛应用。不过，需要指出的是，Nagelkerke $R^2$ 仍然不表示"方差解释比例"，而是一种相对似然比指标。

Efron $R^2$

Efron 伪 $R^2$ 通过比较预测值与实际值之间的残差平方和来度量模型拟合，其形式与传统 $R^2$ 最为接近：

R^2_{\text{Ef}} = 1 - \frac{\sum_{i=1}^{n} (y_i - \hat{p}_i)^2}{\sum_{i=1}^{n} (y_i - \bar{y})^2}

其中 $y_i$ 是实际观测值（0 或 1）， $\hat{p}_i$ 是模型预测的概率值， $\bar{y}$ 是样本均值。该指标的好处是结构直观，但由于因变量是二值变量，其解释仍需谨慎。

其他常用指标

除上述指标外，还有以下几种伪决定系数：

McKelvey-Zavoina $R^2$ ：基于潜在变量 (latent variable) 框架，假设存在一个连续的潜变量，通过比较潜变量回归的预测方差与总方差来计算。该指标在参数估计准确时表现较好。
调整伪 $R^2$ ：类似于线性回归中的调整 $R^2$ ，部分伪决定系数（如 McFadden $R^2$ ）也有带惩罚项（如对自变量个数进行校正）的版本。
Tjur $R^2$ （分类区分度指数）：定义为模型对成功事件预测概率的均值与对失败事件预测概率的均值之差，直观衡量模型区分正负样本的能力。

使用注意事项

在实际应用中，伪决定系数需要谨慎解读。首先，不同种类的伪 $R^2$ 在同一模型上可能给出差异很大的数值，因此研究者应明确报告所采用的指标类型。其次，伪决定系数主要用于模型比较（如嵌套模型的比较），而非作为模型绝对好坏的判定标准。再次，与线性回归中的 $R^2$ 不同，伪决定系数不宜用于衡量模型的预测准确性（这应当由混淆矩阵、AUC、Brier Score 等指标来评估）。最后，在多项逻辑回归或有序逻辑回归中，不同软件包可能默认报告不同的伪 $R^2$ 指标，研究者需加以注意。