ARTICLE
高斯
高斯 约翰·卡尔·弗里德里希·高斯(Johann Carl Friedrich Gauss,1777年—1855年)是德国数学家、天文学家和物理学家,被公认为有史以来最伟大的数学家之一。在数理统计和计量经济学领域,高斯的名字与正态分布(亦称高斯分布)、高斯-马尔可夫定理以及最小二乘法等基础性概念紧密相连,这些贡献构成了现代统计推断和经济计量分析的基石。 生平
高斯
约翰·卡尔·弗里德里希·高斯(Johann Carl Friedrich Gauss,1777年—1855年)是德国数学家、天文学家和物理学家,被公认为有史以来最伟大的数学家之一。在数理统计和计量经济学领域,高斯的名字与正态分布(亦称高斯分布)、高斯-马尔可夫定理以及最小二乘法等基础性概念紧密相连,这些贡献构成了现代统计推断和经济计量分析的基石。
生平与学术贡献总览
高斯出生于不伦瑞克(今德国下萨克森州),幼年即展现出超凡的数学天赋。其三岁便纠正父亲工资计算错误的故事广为流传,而十岁时发现等差数列求和的简便方法更成为数学教育中的经典案例。高斯先后在卡罗琳学院和哥廷根大学求学,自1807年起担任哥廷根大学天文台台长直至逝世。他学识广博,在数论(《算术研究》)、天文学(最小二乘法与轨道计算)、大地测量(最小二乘法与曲面几何)、电磁学(与韦伯共同发明电磁电报)等领域均有开创性贡献。
正态分布(高斯分布)
高斯分布的概率密度函数为:
其中 为位置参数(均值), 为尺度参数(方差)。该分布呈对称钟形曲线,在均值处达到峰值,曲线下的面积满足68-95-99.7法则:约68\%的数据落在 范围内,约95\%落在 范围内,约99.7\%落在 范围内。
高斯在1809年的著作《天体沿圆锥曲线绕日运动的理论》中,基于极大似然原理推导出正态分布。他假设观测误差的分布应使待估参数的后验概率最大,从而导出了正态分布的形式。这与之前棣莫弗(1733年)和拉普拉斯(1774年)从二项分布近似角度得到的结果殊途同归。正态分布因高斯系统的研究和广泛应用而最终获得"高斯分布"这一通称,成为中心极限定理的直接体现——大量独立随机变量之和在适当标准化后趋于正态分布。
在计量经济学中,正态分布的重要性体现在以下方面:在经典线性回归模型的误差项服从正态分布的假设下,最小二乘估计量与最大似然估计量等价,且统计推断(检验、检验)能够获得精确的有限样本分布。即便误差项不严格服从正态分布,在大样本条件下,基于正态近似的推断方法在正则条件下仍然渐近有效。
高斯-马尔可夫定理
高斯-马尔可夫定理(Gauss-Markov Theorem)是线性回归理论中最核心的定理之一,由高斯在1821年首次提出并由马尔可夫于1900年完善。该定理断言:在线性回归模型中,若误差项满足零条件均值()和同方差性(),则普通最小二乘法(OLS)估计量在所有线性无偏估计量中具有最小方差——即OLS是最佳线性无偏估计量(BLUE)。
这一结论的核心意义在于,它并不要求误差项服从任何特定的概率分布(如正态分布),仅依赖一阶和二阶矩条件,从而为OLS在计量经济学中的统治地位提供了坚实的理论依据。该定理也催生了后续对替代估计量的探索:当同方差假定不成立时,广义最小二乘法(GLS)替代OLS成为BLUE;当存在内生性时,工具变量法(IV)产生了一致但非BLUE的估计量。
最小二乘法
最小二乘法(Method of Least Squares)的优先权争议是科学史上著名的公案。高斯声称自1795年(时年18岁)便开始使用该方法,而勒让德于1805年率先发表了《确定彗星轨道的新方法》一文,正式阐述了最小二乘法。尽管优先权存在争议,但高斯对最小二乘法的理论贡献无疑更为深远:他首次将最小二乘法与概率论相联系,证明了在独立同分布的正态误差假设下,最小二乘估计量等价于最大似然估计量,从而赋予了该方法以统计最优性。
最小二乘法的核心思想是选择参数 使得残差平方和最小化:
其解为 。这一简洁的封闭解是线性回归得以广泛应用的数学基础。
高斯在其他经济相关领域的贡献
高斯-牛顿法(Gauss-Newton Algorithm)是求解非线性最小二乘问题的迭代算法,广泛应用于微观计量经济学中的非线性回归和结构估计。该方法通过对目标函数在参数初始值处进行一阶泰勒展开,将非线性问题线性化后迭代求解,在大样本条件下具有较快的收敛速度。
高斯在数值线性代数中的贡献——高斯消元法(Gaussian Elimination)——是求解形如 的线性方程组的标准算法,在计算经济学中用于求解可计算一般均衡(CGE)模型和动态随机一般均衡(DSGE)模型中的大规模线性系统。此外,高斯积分(Gaussian Quadrature)和一维情况下的高斯-埃尔米特积分在计算经济学中的数值积分和模拟方法中广泛使用。
高斯在微分几何中提出的高斯曲率和绝妙定理(Theorema Egregium)——曲面的内蕴曲率仅由其度量决定——为爱因斯坦的广义相对论提供了数学语言,也对当代经济地理学和空间计量经济学中的空间依赖关系建模产生了间接影响。
高斯在经济学中的综合影响
纵观高斯的学术遗产,他对经济学和统计学的影响主要通过三条脉络延续至今。其一,正态分布作为自然和社会的普遍规律,构成了推断统计学的数学基础,支撑着假设检验、置信区间和预测区间等核心方法。其二,最小二乘法——从高斯时代的手工天文计算到当代的大规模机器学习——依然是数据分析领域最基础的范式之一。其三,高斯-马尔可夫定理为评价估计量优劣提供了明确基准,推动了一代代计量经济学家对异方差、自相关、内生性等偏离经典假设情形下稳健估计方法的持续探索。正如数学史学家克莱因所言:"高斯的工作如此普遍地渗透到今天,以至于我们往往忘记了他的绝大部分贡献是多么基础而不朽。"