自回归移动平均 (ARMA)

自回归移动平均 (ARMA)

自回归移动平均模型 (Autoregressive Moving Average Model, ARMA) 是时间序列分析中最核心的线性平稳模型之一，由 自回归 (AR) 部分和 移动平均 (MA) 部分组合而成。ARMA$(p, q)$ 模型将当前观测值表示为其自身滞后值的线性组合（AR部分）和当前及过去白噪声冲击的线性组合（MA部分）之和，是 Box 和 Jenkins (1970) 提出的 ARIMA 建模方法论的基础模块，广泛用于经济学、金融学、信号处理和工程领域的单变量时间序列建模。

模型定义与数学形式

设 $\{Y_t\}$ 为零均值平稳时间序列（或经中心化处理后的序列）。ARMA$(p, q)$ 模型的一般形式为：

其中 $\varepsilon_t \sim \text{WN}(0, \sigma^2)$ 为白噪声过程，即满足均值为零、方差恒定 $\operatorname{Var}(\varepsilon_t) = \sigma^2$，且不同时点的 $\varepsilon_t$ 和 $\varepsilon_s$ 不相关。模型包含 $p+q+1$ 个待估参数：$(\phi_1, \ldots, \phi_p, \theta_1, \ldots, \theta_q, \sigma^2)$。

引入滞后算子 $L$（满足 $L^k Y_t = Y_{t-k}$），ARMA$(p, q)$ 模型可简洁表示为：

其中 AR 多项式为 $\phi(L) = 1 - \phi_1 L - \cdots - \phi_p L^p$，MA 多项式为 $\theta(L) = 1 + \theta_1 L + \cdots + \theta_q L^q$。

纯 AR(p) 模型（$q=0$）：$Y_t = \phi_1 Y_{t-1} + \cdots + \phi_p Y_{t-p} + \varepsilon_t$。当前值仅由自身滞后值和当期冲击解释，等价于 MA$(\infty)$ 表示（前提是可逆条件满足）。

纯 MA(q) 模型（$p=0$）：$Y_t = \varepsilon_t + \theta_1 \varepsilon_{t-1} + \cdots + \theta_q \varepsilon_{t-q}$。当前值仅由当期和过去的冲击驱动，在弱条件下恒平稳。

平稳性与可逆性条件

平稳性条件要求 AR 多项式 $\phi(z) = 1 - \phi_1 z - \cdots - \phi_p z^p$ 的所有根位于单位圆外（即 $|z| > 1$）。若平稳性满足，ARMA 过程具有时不变的均值、方差和自协方差，且存在唯一的 MA$(\infty)$ 表示 $Y_t = \psi(L) \varepsilon_t$，其中 $\psi(L) = \phi(L)^{-1} \theta(L)$。

可逆性条件要求 MA 多项式 $\theta(z) = 1 + \theta_1 z + \cdots + \theta_q z^q$ 的所有根位于单位圆外。可逆性保证了参数估计的唯一性和模型的可识别性，并使模型存在唯一的 AR$(\infty)$ 表示 $\pi(L) Y_t = \varepsilon_t$，其中 $\pi(L) = \theta(L)^{-1} \phi(L)$。

两个条件同时满足时，ARMA 过程同时具有因果平稳和可逆的优良性质，参数可被一致估计。

自相关函数与模型识别

ARMA$(p, q)$ 模型的自相关结构同时融合了 AR 和 MA 的特征。

自相关函数 (ACF)：纯 MA$(q)$ 过程的 ACF 在滞后 $q$ 之后截尾（理论值为零），而纯 AR$(p)$ 过程的 ACF 呈拖尾衰减。ARMA$(p, q)$ 的 ACF 在初始 $q-p$ 个滞后上呈现 MA 主导的模式，之后以 AR 特征衰减。

偏自相关函数 (PACF)：纯 AR$(p)$ 过程的 PACF 在滞后 $p$ 之后截尾，纯 MA$(q)$ 过程的 PACF 拖尾衰减。ARMA$(p, q)$ 的 PACF 在初始 $p-q$ 个滞后上呈现 AR 主导的模式，之后以 MA 特征衰减。

ACF 和 PACF 的联合模式是 Box-Jenkins 识别阶段的核心工具，为模型的滞后阶数选择提供初步视觉判断。

Yule-Walker 方程与参数估计

对于 ARMA 过程的自协方差 $\gamma_k = \operatorname{Cov}(Y_t, Y_{t-k})$，将模型方程两边乘以 $Y_{t-k}$ 取期望，可得 Yule-Walker 方程的扩展形式。对于 $k > q$，MA 部分的贡献消失，满足齐次差分方程：

参数估计常用方法为最大似然估计（MLE）或最小二乘法。在正态性假设下，精确或条件最大似然估计均可获得一致估计量和渐近正态的估计量。模型选择通常结合赤池信息准则 (AIC) 或贝叶斯信息准则 (BIC) 进行阶数确定。

局限性与扩展

ARMA 模型仅适用于平稳时间序列。对于含趋势或季节性特征的实际数据，需扩展为 ARIMA$(p, d, q)$ 模型，先通过 $d$ 阶差分消除非平稳性再拟合 ARMA 结构。对于季节性模式，SARIMA 进一步引入季节性 AR 和 MA 成分。当序列方差时变时，可转向 ARCH 或 GARCH 类模型捕捉条件异方差。

ARMA 的另一个局限是仅适用于单变量序列，无法捕捉多个序列之间的动态交互关系。此时需使用向量自回归（VAR）或 VARMA 等多元推广。尽管有这些扩展，ARMA 模型仍是时间序列分析的理论基石，其简洁的线性结构和清晰的数学性质使其在宏观经济预测、金融计量分析和工程信号处理中持续发挥基础性作用。