数值分析

数值分析 (Numerical Analysis)

数值分析是研究如何用有限精度的算术运算逼近连续数学问题精确解的学科。当解析方法——如闭式积分、显式方程解——无法奏效时，数值分析提供了一套系统的方法论：将连续问题离散化，将无限过程截断，将精确运算替换为近似计算，并在可控误差范围内获得实用的数值解。它横跨数学、计算机科学与应用领域，是现代科学计算与工程仿真的理论根基。在经济学中，数值分析为动态规划、一般均衡模型求解、计量估计优化和随机模拟提供了不可替代的计算工具。

浮点运算与误差类型

数值分析的理论起点是对误差的系统研究。计算机采用有限精度的浮点数系统（IEEE 754标准）表示实数，每个数由符号、尾数和指数编码为固定长度的二进制串。双精度浮点数（float64）提供约15--17位十进制有效数字，单精度（float32）约6--9位。这一有限精度意味着实数轴被离散化为有限个可表示值，两个相邻浮点数之间的间隙由机器精度 $\epsilon_{\text{mach}} \approx 2.22 \times 10^{-16}$（双精度）决定。任何超出精度的数字——比如 $\pi$ 或 $1/3$——在存储时已被截断，引入了不可消除的表示误差。

运算过程中误差进一步累积。将两个量级悬殊的数相加时，较小的数可能被完全"吞没"：若 $a = 1$ 而 $b = 10^{-17}$，在双精度下 $a + b = 1$，$b$ 直接丢失。两个相近的大数相减则导致灾难性抵消（Catastrophic Cancellation）：若 $x = 1.000000000000001$ 和 $y = 1.000000000000000$ 各自仅有测量误差，$x - y = 10^{-15}$ 的有效数字可能仅剩一位。数值算法的设计核心正在于规避这类放大误差的结构，保持数值稳定性。

误差传播可通过前向误差与后向误差框架分析。设待解问题为 $f(x)$，数值算法为 $\hat{f}$。前向误差是 $|\hat{f}(x) - f(x)|$，直接衡量输出与真值的距离；后向误差则寻找 $\Delta x$ 使得 $\hat{f}(x) = f(x + \Delta x)$——即将计算误差"反推"为输入数据的等效扰动。一个算法若其后向误差始终与机器精度同阶，则称为后向稳定。大多数线性代数标准算法（QR分解、Givens旋转）具备后向稳定性；多项式求根则通常不满足。

条件数与问题固有敏感性

误差行为不仅取决于算法设计，还取决于问题本身的条件数（Condition Number）。条件数度量的是输出对输入扰动的相对放大倍数：对于函数 $f(x)$，条件数定义为

对于线性方程组 $Ax = b$，条件数为 $\kappa(A) = \|A\| \cdot \|A^{-1}\|$，其中 $\|\cdot\|$ 为矩阵范数。$\kappa(A)$ 很大时，$A$ "接近奇异"：输入数据的微小扰动被放大 $\kappa$ 倍映射到输出。经典例子是Hilbert矩阵，其条件数随阶数增长极快——$n=10$ 时 $\kappa \approx 10^{13}$——使任何数值算法在有限精度下均无法可靠求解。

前向误差 $\lesssim$ 条件数 $\times$ 后向误差 这一经验不等式揭示了数值分析的核心洞见：良好的算法（小后向误差）在良态问题（小条件数）上产生精确解；算法再好，面对病态问题也无法超越条件数设定的精度天花板。在经济学应用中，共线性严重的回归设计矩阵、高度自相关的极大似然估计的Hessian矩阵均可能导致条件数激增，使标准数值优化陷入困境。

核心方法体系

线性方程组与矩阵分解

数值线性代数的核心是将矩阵分解为具有优良数值性质的因子之积。LU分解将方阵 $A$ 分解为下三角阵 $L$ 与上三角阵 $U$ 的乘积 $A = LU$，将求解 $Ax = b$ 转化为两次三角回代，复杂度 $O(n^3/3)$。当 $A$ 为对称正定时，Cholesky分解 $A = LL^T$ 节约一半存储与运算量，且无需选主元，直接保证了数值稳定性。对于超定或欠定最小二乘问题 $\min \|Ax - b\|_2$，QR分解（$A = QR$，$Q$ 正交，$R$ 上三角）和奇异值分解（SVD, $A = U\Sigma V^T$）提供了比正规方程法更稳定的求解路径：正规方程条件数为 $\kappa(A^TA) = \kappa(A)^2$，平方条件数在病态时是灾难性的，而QR与SVD直接使用原矩阵，条件数不平方。

插值与逼近

给定离散数据点 $(x_i, y_i)_{i=0}^n$，多项式插值寻找次数至多为 $n$ 的多项式穿过全部数据点。Lagrange插值和Newton插值给出等价的理论形式，但高次多项式插值在等距节点上会产生Runge现象——区间两端振荡激烈发散，逼近质量随节点数增加先改善后恶化。解决策略包括使用Chebyshev节点（将误差均匀化）和转向分段低次插值：分段线性插值、分段三次Hermite插值以及具有二阶连续性的三次样条插值（Cubic Spline），后者在经济学中的收益率曲线构建和波动率曲面拟合中广泛应用。

数值积分与微分

定积分 $\int_a^b f(x)dx$ 的数值计算通过求积公式 $\sum_{i=0}^n w_i f(x_i)$ 逼近。Newton-Cotes公式在等距节点上积分Lagrange插值多项式：梯形法则（$n=1$）和Simpson法则（$n=2$）分别是2阶和4阶精度的特例。更高效率来自Gauss求积——通过巧妙选择非等距节点位置使 $n+1$ 个节点达到 $2n+1$ 阶代数精度，Gauss-Legendre、Gauss-Hermite（用于正态分布期望积分）和Gauss-Laguerre规则覆盖了经济学中常见的积分区间。蒙特卡洛积分在高维积分中优势显著，其收敛速率 $O(1/\sqrt{N})$ 与维度无关，使高维期望和Bayesian边际似然的计算成为可能。

常微分方程初值问题

欧拉法（Euler Method）是最朴素的单步法：$y_{n+1} = y_n + h f(t_n, y_n)$，局部截断误差 $O(h^2)$，全局误差 $O(h)$。经典四阶Runge-Kutta法（RK4）将全局误差提升至 $O(h^4)$，每步计算四次右端函数，是精度与效率的常用平衡点。线性多步法（Adams-Bashforth显式、Adams-Moulton隐式）利用历史步信息减少函数评估次数；预测-校正策略用显式方法预测、隐式方法校正，兼具效率与稳定性。刚性方程（Stiff Equations）——不同时间尺度的分量共存——要求使用后向差分公式（BDF）等隐式方法：显式方法的稳定性区域过小，步长受最快衰减分量而非精度需求控制，隐式方法则以每步非线性求解的代价换取无条件的A-稳定性。

经济学中的应用格局

数值分析贯穿现代经济学的计算实践。动态随机一般均衡（DSGE）模型的求解依赖扰动法（在稳态附近Taylor展开，使用矩阵分解求解线性化系统）或投影法（用Chebyshev多项式或样条基逼近策略函数，通过配置条件求解待定系数）。异质性代理人模型（HANK）的Krusell-Smith算法结合了值函数迭代的数值动态规划和蒙特卡洛模拟的截面聚合。极大似然估计和广义矩方法（GMM）中的非线性优化——从Newton-Raphson法到BFGS拟牛顿法再到模拟退火——均依赖数值梯度、数值Hessian或梯度-free搜索策略。Bayesian估计的马尔可夫链蒙特卡洛（MCMC）和序列蒙特卡洛（SMC）更是数值方法的高度集成：从提议分布的构造、接受概率的计算到收敛诊断，每一步都建立在数值线性代数、数值积分和随机数生成的基础之上。

数值分析为经济学提供的不只是一组计算工具，而是一种近似意识：意识到每一个数值解背后都站着截断误差、舍入误差和条件数三重影子。理解这些影子的行为规律，是区分可靠量化结论与数值伪像的认知前提。