KNOWECON WIKI

ARTICLE

拟合优度

拟合优度 (Goodness of Fit) 拟合优度 (Goodness of Fit, GoF) 是一个统计学概念，用以衡量一个统计模型的假设与观测到的样本数据之间的吻合程度。简单来说，它回答了这样一个问题：“我们所构建的模型在多大程度上能够‘解释’或‘预测’我们手中的数据？” 一个具有良好拟合优度的模型意味着模型的预测值与实际观测值非常接近。相反，较差

浏览 46 更新 2025-10-26

拟合优度 (Goodness of Fit)

拟合优度 (Goodness of Fit, GoF) 是一个统计学概念，用以衡量一个统计模型的假设与观测到的样本数据之间的吻合程度。简单来说，它回答了这样一个问题：“我们所构建的模型在多大程度上能够‘解释’或‘预测’我们手中的数据？” 一个具有良好拟合优度的模型意味着模型的预测值与实际观测值非常接近。相反，较差的拟合优度则表明模型未能准确捕捉数据中的潜在规律。

拟合优度的评估是模型构建与验证过程中的核心环节。它不仅帮助我们判断一个特定模型是否适用，还在多个备选模型之间进行选择时提供了重要的决策依据。评估拟合优度的方法多种多样，具体选择哪种方法取决于模型的类型（如回归模型、分类模型）、数据的性质（如连续型、离散型）以及研究的具体目标。

在回归模型中的应用

在线性回归及其他类型的回归分析中，拟合优度旨在衡量模型解释因变量变异性的能力。

决定系数 (R2 R^2 )

决定系数 (Coefficient of Determination)，通常记为 R2 R^2 ，是评估回归模型拟合优度最常用的指标之一。它衡量了模型能够解释的因变量总变异的百分比。

R2 R^2 的计算公式为：

R2=1−SSresSStotR^2 = 1 - \frac{SS_{res}}{SS_{tot}}

其中：

  • SSres SS_{res} 是残差平方和 (Residual Sum of Squares)，代表模型未能解释的变异部分。它的计算公式是 ∑i=1n(yi−y^i)2 \sum_{i=1}^{n} (y_i - \hat{y}_i)^2 ，其中 yi y_i 是观测值，y^i \hat{y}_i 是模型预测值。
  • SStot SS_{tot} 是总平方和 (Total Sum of Squares)，代表因变量 y y 的总变异。它的计算公式是 ∑i=1n(yi−yˉ)2 \sum_{i=1}^{n} (y_i - \bar{y})^2 ，其中 yˉ \bar{y} 是观测值的平均值。

解读:

  • R2 R^2 的取值范围在 0 到 1 之间。
  • R2=1 R^2=1 意味着模型完美解释了因变量的所有变异，所有数据点都精确地落在回归线上。
  • R2=0 R^2=0 意味着模型完全没有解释能力，其预测效果等同于直接使用因变量的平均值进行预测。
  • 例如，一个 R2=0.85 R^2 = 0.85 的模型意味着因变量总变异的 85\% 可以由模型中的自变量来解释。

调整决定系数 (Adjusted R2 R^2 )

R2 R^2 有一个固有的缺点：当向模型中添加更多的自变量时，即使这些变量与因变量毫无关系，R2 R^2 的值也几乎总会增加，而不会减少。这可能导致研究者错误地构建一个包含过多无关变量的复杂模型，即过拟合。

为了解决这个问题，统计学家提出了 调整决定系数 (Adjusted R2 R^2 ) 。它在 R2 R^2 的基础上，对模型中自变量的数量进行了惩罚。

其计算公式为：

Radj2=1−(1−R2)n−1n−p−1R^2_{adj} = 1 - (1 - R^2) \frac{n-1}{n-p-1}

其中：

  • n n 是样本量。
  • p p 是模型中自变量的个数。

当加入一个对模型解释能力没有显著贡献的新变量时，R2 R^2 的微小增加可能会被 (n−1)/(n−p−1) (n-1)/(n-p-1) 这一项的增加所抵消，从而导致 Adjusted R2 R^2 下降。因此，在比较包含不同数量自变量的模型时，Adjusted R2 R^2 是一个更佳的指标。

残差分析 (Residual Analysis)

除了数值指标，通过图形化的 残差分析 来评估拟合优度也至关重要。残差 (ei=yi−y^i e_i = y_i - \hat{y}_i ) 是观测值与模型预测值之间的差异。一个拟合良好的模型，其残差应该表现出随机性，不应有任何系统性的模式。

常见的残差图分析包括：

  • 残差 vs. 预测值图：理想情况下，残差应随机散布在 0 水平线上下，没有明显的形状（如喇叭形、曲线形）。喇叭形图案表明存在异方差性 (Heteroscedasticity)，而曲线图案则表明模型可能遗漏了高阶项或存在非线性关系。
  • 残差的正态性检验：许多回归模型的假设要求残差服从正态分布。这可以通过绘制残差的直方图或Q-Q图 (Quantile-Quantile Plot) 来进行视觉检查，也可以通过如夏皮罗-威尔克检验 (Shapiro-Wilk test) 等统计检验来量化评估。

在分类数据和分布检验中的应用

当数据是分类的，或者我们想检验数据是否来自某个特定的概率分布时，需要使用不同的拟合优度检验方法。

卡方检验 (χ2 \chi^2 Test)

卡方检验 (Chi-squared Test) 是一种经典的非参数检验方法，用于比较观测频数与理论或期望频数之间的差异。

其核心思想是，如果模型（或零假设）是正确的，那么观测频数 Oi O_i 与基于该模型计算出的期望频数 Ei E_i 之间的差异应该很小。卡方统计量的计算公式为：

χ2=∑i=1k(Oi−Ei)2Ei\chi^2 = \sum_{i=1}^{k} \frac{(O_i - E_i)^2}{E_i}

其中，k k 是分类的组数。

计算出的 χ2 \chi^2 值需要与来自卡方分布的临界值进行比较。这个分布的形状由自由度 (degrees of freedom) 决定。一个较大的 χ2 \chi^2 值（以及与之对应的较小的p-value）表明观测频数与期望频数之间存在显著差异，因此我们有理由拒绝原假设，认为模型拟合不佳。

示例：假设我们想检验一个六面骰子是否公平。我们投掷 60 次，期望每个点数（1到6）出现 10 次 (Ei=10 E_i=10 )。如果观测到的频数分别为 {13, 8, 7, 15, 9, 8}，我们就可以计算 χ2 \chi^2 统计量来判断这种偏差是否在随机抽样误差的范围内。

柯尔莫哥洛夫-斯米尔诺夫检验 (K-S Test)

柯尔莫哥洛夫-斯米尔诺夫检验 (Kolmogorov-Smirnov Test, K-S test) 是一种用于检验一组样本数据是否来自某个具有特定理论分布（如正态分布、均匀分布）的拟合优度检验。

该检验通过比较样本的经验累积分布函数 (Empirical Cumulative Distribution Function, ECDF) 与理论分布的累积分布函数 (CDF) 之间的最大绝对差异来工作。这个最大差异值就是 K-S 检验的统计量 D D 。

D=max⁡x∣Fn(x)−F(x)∣D = \max_{x} |F_n(x) - F(x)|

其中，Fn(x) F_n(x) 是样本的 ECDF，F(x) F(x) 是理论分布的 CDF。如果 D D 值足够大，超过了在零假设下的临界值，我们就可以拒绝数据来自该理论分布的假设。

模型选择与拟合优度的权衡

在追求更好的拟合优度时，必须警惕过拟合 (Overfitting) 的风险。一个过拟合的模型对训练数据拟合得极好（例如 R2 R^2 趋近于1），但它学习到的是数据中的噪声而非潜在规律，因此在预测新数据时表现糟糕，即泛化能力差。与之相对的是欠拟合 (Underfitting)，即模型过于简单以至于无法捕捉数据的基本结构。

这引出了统计建模中的一个核心概念：偏差-方差权衡 (Bias-Variance Tradeoff)。

  • 偏差 (Bias)：由模型的错误假设引起，导致系统性的预测误差（欠拟合）。
  • 方差 (Variance)：模型对训练数据中微小波动的敏感度，导致模型在不同数据集上表现不稳定（过拟合）。

为了在拟合优度与模型复杂度之间取得平衡，研究者们发展了多种信息准则 (Information Criterion)，如：

这些准则在评估模型拟合优度（通常基于最大似然估计）的同时，对模型的参数数量（即复杂度）施加惩罚。在比较多个模型时，通常选择 AIC 或 BIC 值较小的模型，因为它被认为是在拟合优度和模型简洁性之间取得了更好的平衡。