伽马分布无偏估计量

伽马分布无偏估计量 (Unbiased Estimator for Gamma Distribution)

在统计推断中，无偏估计量指估计量的期望值等于所估计未知参数的真值。对伽马分布参数的估计——尤其形状参数的估计——是一个重要的统计理论课题：常用的最大似然估计（MLE）存在系统性偏误，寻找无偏或近似无偏估计量需要借助充分统计量理论和偏差校正方法。

伽马分布与MLE偏误

伽马分布的概率密度函数为$f(x; \alpha, \beta) = (\beta^\alpha / \Gamma(\alpha)) x^{\alpha-1} e^{-\beta x}$（$x > 0$），其中$\alpha > 0$为形状参数、$\beta > 0$为率参数（也可用尺度参数$\theta = 1/\beta$参数化）。期望$E[X] = \alpha / \beta$，方差$\operatorname{Var}(X) = \alpha / \beta^2$。

给定来自伽马分布的独立同分布样本$x_1, \ldots, x_n$，对数似然函数为$\ell(\alpha, \beta) = n(\alpha \ln\beta - \ln\Gamma(\alpha)) + (\alpha-1)\sum \ln x_i - \beta \sum x_i$。求解一阶条件得$\hat{\beta} = \hat{\alpha}/\bar{x}$，其中$\bar{x}$为样本均值。联合方程简化为$\ln(\alpha) - \psi(\alpha) = \ln(\bar{x}) - (1/n)\sum \ln x_i$，其中$\psi(\alpha) = \Gamma'(\alpha)/\Gamma(\alpha)$为digamma函数——此方程无解析解需通过牛顿法等数值方法求解。

核心问题：通过蒙特卡洛模拟和理论分析可证明$\hat{\alpha}_{MLE}$是有偏估计量——其期望系统性高于真实$\alpha$值（正向偏误），在小样本量下尤为显著。虽具有渐近无偏性（$n \to \infty$时偏误趋于零），但小样本场景普遍的应用中偏误可能导致错误推断。

无偏估计量的构造

根据统计理论，寻找一致最小方差无偏估计量（UMVUE）通常依赖Lehmann-Scheffé定理——若一个充分统计量是完备性的，则基于该统计量的无偏估计函数唯一且达最小方差。对伽马分布族（$\alpha, \beta$均未知），二维充分统计量为$T_1 = \sum X_i$和$T_2 = \prod X_i$且为完备统计量——理论上应存在函数$g(T_1, T_2)$使期望等于目标参数，但寻找该函数涉及求解复杂积分方程，通常无法得到对形状参数的简单闭式解。

特殊情况。若形状参数$\alpha$已知，对参数$\beta$或尺度参数$\theta = 1/\beta$可获得闭式无偏估计——$\hat{\beta} = (\alpha n - 1)/\sum X_i$是$\beta$的无偏估计。若$\beta$已知，充分统计量$\sum X_i$服从伽马分布，可直接构造——但因实践中参数均未知，这些简化情况不具一般性。

偏误校正方法实操上常用以下手段。基于模拟或渐近展开的偏差校正可减去估计偏误项的近似值；Jackknife和Bootstrap偏差校正利用重抽样技术估计并校正偏误；贝叶斯方法结合先验信息可在小样本下产生更合理的估计。在可靠性工程、保险精算和排队论等领域应用中准确估计伽马参数至关重要——因偏误可能导致对系统性能或风险的严重误判。伽马分布的无偏估计是展示参数估计偏误问题和充分统计量完备性理论应用的经典教材案例。