迭代GMM

迭代GMM (Iterative GMM)

迭代GMM (Iterative Generalized Method of Moments)，或称 迭代广义矩估计，是广义矩估计 (GMM) 的一种常用估计算法。它通过反复更新权重矩阵来提高估计的有效性，是连接"两步GMM"与"连续更新GMM"之间的实用桥梁。

从GMM到迭代GMM

标准的 GMM 估计基于一组矩条件 (moment conditions) $E[g(Z_i, \theta)] = 0$。GMM 估计量 $\hat{\theta}$ 是通过最小化如下二次型目标函数得到的：

其中 $\bar{g}_n(\theta) = \frac{1}{n} \sum_{i=1}^{n} g(Z_i, \theta)$ 是样本矩向量，$W$ 是一个正定的权重矩阵。

Hansen (1982) 证明，GMM 估计量在 $W = \Omega^{-1}$（其中 $\Omega$ 是矩条件的渐近方差-协方差矩阵）时达到渐近有效性。然而，$\Omega$ 本身依赖于未知参数 $\theta$，这形成了一个循环。

这引出了 两步GMM：

1. 取 $W = I$（单位矩阵），得到第一步的一致估计量 $\hat{\theta}_{(1)}$
2. 使用 $\hat{\theta}_{(1)}$ 估计 $\hat{\Omega}$，再取 $W = \hat{\Omega}^{-1}$ 进行第二步估计，得到 $\hat{\theta}_{(2)}$

迭代GMM 延续了两步法的思路，将第二步估计得到的 $\hat{\theta}_{(2)}$ 再次用于重新估计 $\hat{\Omega}$，然后再做第三步、第四步估计……直到满足收敛标准（例如参数估计值的变化小于预设容差或目标函数值稳定）。

算法可表述为：

1. 初始化：选取初始权重矩阵 $W_{(0)} = I$，得到 $\hat{\theta}_{(0)}$
2. 迭代步骤 $k = 1, 2, \ldots$：

• 用 $\hat{\theta}_{(k-1)}$ 计算 $\hat{\Omega}_{(k)}$
• 令 $W_{(k)} = \hat{\Omega}_{(k)}^{-1}$
• 求解 $\hat{\theta}_{(k)} = \arg\min_{\theta} \bar{g}_n(\theta)' W_{(k)} \bar{g}_n(\theta)$

1. 检查 $\|\hat{\theta}_{(k)} - \hat{\theta}_{(k-1)}\| < \text{tolerance}$，若满足则停止

迭代GMM的性质

渐近等价性： 在标准正则条件下，两步GMM、迭代GMM和连续更新GMM (CUE) 具有相同的渐近分布。它们都是 $\sqrt{n}$-一致的且达到渐近有效性。

有限样本表现： Monte Carlo 模拟研究显示，迭代GMM的有限样本性质通常优于两步GMM，尤其当第一步估计不够精确时。原因在于：两步GMM中 $\hat{\Omega}$ 的估计仅依赖于第一步的不太精确的 $\hat{\theta}_{(1)}$，而迭代GMM通过反复优化，让 $\hat{\Omega}$ 最终基于更准确的参数估计，从而减少权重矩阵估计误差带来的效率损失。

与连续更新GMM的关系： 连续更新GMM (Continuously Updating GMM, CUE) 将 $\Omega(\theta)$ 视为 $\theta$ 的函数，直接在优化过程中同步更新。而迭代GMM在每一步内保持 $W$ 固定进行优化，是一种"分步联合优化"的近似。CUE 理论性质更优但计算成本更高，迭代GMM 在两者之间取得了良好的平衡。

注意事项

1. 收敛性： 迭代GMM不保证全局收敛，尤其当矩条件高度非线性或初始值较差时，可能出现振荡或不收敛。实践中常设置迭代上限。
2. 权重矩阵的估计： $\Omega$ 的估计方式（如是否使用异方差自相关一致 (HAC) 估计量）对迭代结果有显著影响。
3. 与两步GMM的选择： 若第一步估计已经相当准确（例如在样本量大、模型识别强的场合），两步GMM与迭代GMM的差异微乎其微。但在弱识别或小样本情境下，迭代GMM的改善更为明显。