二次型

二次型 (Quadratic Form)

二次型（Quadratic Form）是线性代数与矩阵理论中的核心概念，在计量经济学、最优化理论和数理统计中具有极为广泛的应用。形式上，一个关于 $n$ 维向量 $\mathbf{x} \in \mathbb{R}^n$ 的二次型定义为：

Q(\mathbf{x}) = \mathbf{x}^T \mathbf{A} \mathbf{x} = \sum_{i=1}^{n} \sum_{j=1}^{n} a_{ij} x_i x_j

其中 $\mathbf{A}$ 为 $n \times n$ 实矩阵。不失一般性，通常假定 $\mathbf{A}$ 为对称矩阵，因为任意方阵均可通过 $\mathbf{B} = \frac{1}{2}(\mathbf{A} + \mathbf{A}^T)$ 对称化而不改变二次型的值，即 $\mathbf{x}^T \mathbf{A} \mathbf{x} = \mathbf{x}^T \left(\frac{\mathbf{A} + \mathbf{A}^T}{2}\right) \mathbf{x}$ 。二次型是关于 $\mathbf{x}$ 的齐二次多项式，不含一次项或常数项，其几何意义与二次曲面、椭圆抛物面等密切相关。

定号性与特征值判定

二次型的定性（Definiteness）是其在经济学中最重要的性质之一。对于对称矩阵 $\mathbf{A}$ ，定义：

正定（Positive Definite）：对所有 $\mathbf{x} \neq \mathbf{0}$ ，有 $\mathbf{x}^T \mathbf{A} \mathbf{x} > 0$ 。记为 $\mathbf{A} \succ 0$ 。
半正定（Positive Semidefinite）：对所有 $\mathbf{x}$ ，有 $\mathbf{x}^T \mathbf{A} \mathbf{x} \geq 0$ 。记为 $\mathbf{A} \succeq 0$ 。
负定（Negative Definite）：对所有 $\mathbf{x} \neq \mathbf{0}$ ，有 $\mathbf{x}^T \mathbf{A} \mathbf{x} < 0$ 。记为 $\mathbf{A} \prec 0$ 。
不定（Indefinite）：存在 $\mathbf{x}_1, \mathbf{x}_2$ 使 $\mathbf{x}_1^T \mathbf{A} \mathbf{x}_1 > 0$ 且 $\mathbf{x}_2^T \mathbf{A} \mathbf{x}_2 < 0$ 。

定性判定可通过两种等价方法实现：

（一）特征值法：设对称矩阵 $\mathbf{A}$ 的特征值为 $\lambda_1, \lambda_2, \dots, \lambda_n$ ，则：

\mathbf{A} \succ 0 \iff \lambda_i > 0, \; \forall i; \qquad \mathbf{A} \succeq 0 \iff \lambda_i \geq 0, \; \forall i

类似地， $\mathbf{A} \prec 0$ 当且仅当所有特征值严格为负。这是最简洁的判定方式，但计算特征值有时并不经济。

（二）顺序主子式法（Sylvester准则）：记 $\Delta_k$ 为 $\mathbf{A}$ 的 $k$ 阶顺序主子式（即前 $k$ 行 $k$ 列构成子矩阵的行列式），则：

\mathbf{A} \succ 0 \iff \Delta_k > 0, \; k = 1, 2, \dots, n

负定时，顺序主子式需满足符号交替条件： $(-1)^k \Delta_k > 0$ 。此方法在海塞矩阵的极值判定中尤为常用。

二次型的谱分解与几何意义

对称矩阵 $\mathbf{A}$ 可正交对角化： $\mathbf{A} = \mathbf{P} \mathbf{\Lambda} \mathbf{P}^T$ ，其中 $\mathbf{P}$ 为正交矩阵， $\mathbf{\Lambda} = \operatorname{diag}(\lambda_1, \dots, \lambda_n)$ 。代入二次型得：

Q(\mathbf{x}) = \mathbf{x}^T \mathbf{P} \mathbf{\Lambda} \mathbf{P}^T \mathbf{x} = \mathbf{y}^T \mathbf{\Lambda} \mathbf{y} = \sum_{i=1}^{n} \lambda_i y_i^2, \qquad \mathbf{y} = \mathbf{P}^T \mathbf{x}

这意味着任何二次型均可通过正交变换化为标准型（对角形），仅含平方项而无交叉项。在几何上，当 $\mathbf{A} \succ 0$ 时， $\mathbf{x}^T \mathbf{A} \mathbf{x} = c$ 是 $\mathbb{R}^n$ 中的一个椭球（ellipsoid），主轴方向由特征向量给定，半轴长度与 $1/\sqrt{\lambda_i}$ 成正比。

与之相关的还有二次型的瑞利商（Rayleigh Quotient）：

R(\mathbf{A}, \mathbf{x}) = \frac{\mathbf{x}^T \mathbf{A} \mathbf{x}}{\mathbf{x}^T \mathbf{x}}, \qquad \mathbf{x} \neq \mathbf{0}

其值域为 $[\lambda_{\min}, \lambda_{\max}]$ 。此性质在主成分分析（PCA）和岭回归的收缩性质分析中起关键作用。

计量经济学中的应用

（一）OLS估计量的方差-协方差矩阵

在经典线性回归模型 $\mathbf{y} = \mathbf{X}\boldsymbol{\beta} + \boldsymbol{\varepsilon}$ 中，普通最小二乘（OLS）估计量为 $\hat{\boldsymbol{\beta}} = (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T \mathbf{y}$ 。其方差-协方差矩阵为：

\operatorname{Var}(\hat{\boldsymbol{\beta}}) = \sigma^2 (\mathbf{X}^T \mathbf{X})^{-1}

对于任一线性组合 $\mathbf{c}^T \hat{\boldsymbol{\beta}}$ ，其方差 $\sigma^2 \mathbf{c}^T (\mathbf{X}^T \mathbf{X})^{-1} \mathbf{c}$ 恰为关于 $\mathbf{c}$ 的二次型。由于 $\mathbf{X}^T \mathbf{X}$ 正定（当 $\mathbf{X}$ 列满秩时），该方差恒为正。

（二）回归平方和的二次型表示

回归平方和（ESS）与残差平方和（RSS）均可写为 $\mathbf{y}$ 的二次型：

\text{ESS} = \mathbf{y}^T \left[\mathbf{X}(\mathbf{X}^T \mathbf{X})^{-1} \mathbf{X}^T\right] \mathbf{y} = \mathbf{y}^T \mathbf{P}_{\mathbf{X}} \mathbf{y}

\text{RSS} = \mathbf{y}^T \left[\mathbf{I} - \mathbf{P}_{\mathbf{X}}\right] \mathbf{y} = \mathbf{y}^T \mathbf{M}_{\mathbf{X}} \mathbf{y}

其中 $\mathbf{P}_{\mathbf{X}}$ 为投影矩阵（幂等且对称）， $\mathbf{M}_{\mathbf{X}}$ 为残差生成矩阵。两者均为半正定矩阵——这是二次型正半定性在回归几何中的直接体现。进一步， $F$ 检验统计量可写为两个二次型之比：

F = \frac{\mathbf{y}^T \mathbf{Q}_1 \mathbf{y} / q}{\mathbf{y}^T \mathbf{Q}_2 \mathbf{y} / (n-k)}

其中 $\mathbf{Q}_1, \mathbf{Q}_2$ 为适当的幂等矩阵。

（三）Wald检验与二次型

Wald检验统计量本质上是一个二次型。对于假设 $H_0: \mathbf{R}\boldsymbol{\beta} = \mathbf{r}$ ，Wald统计量为：

W = (\mathbf{R}\hat{\boldsymbol{\beta}} - \mathbf{r})^T \left[\mathbf{R} \operatorname{\hat{Var}}(\hat{\boldsymbol{\beta}}) \mathbf{R}^T\right]^{-1} (\mathbf{R}\hat{\boldsymbol{\beta}} - \mathbf{r})

在 $H_0$ 下， $W \xrightarrow{d} \chi^2_q$ ，其分布理论完全依赖于正态随机向量的二次型性质。

二次型与随机向量的分布

若 $\mathbf{z} \sim N(\mathbf{0}, \mathbf{I}_n)$ ，则 $\mathbf{z}^T \mathbf{A} \mathbf{z} \sim \chi^2_r$ 当且仅当 $\mathbf{A}$ 为幂等矩阵且秩为 $r$ 。更一般地，若 $\mathbf{z} \sim N(\boldsymbol{\mu}, \mathbf{\Sigma})$ ，则：

\mathbf{z}^T \mathbf{A} \mathbf{z} \sim \chi^2_r(\delta), \qquad \delta = \boldsymbol{\mu}^T \mathbf{A} \boldsymbol{\mu}

当 $\mathbf{A} \mathbf{\Sigma}$ 为幂等且 $\mathbf{\Sigma}$ 可逆时成立，其中 $\delta$ 为非中心参数。这一系列结论是计量经济学中几乎所有假设检验—— $t$ 检验、 $F$ 检验、LM检验——的分布理论基础。

此外，两个二次型 $\mathbf{z}^T \mathbf{A} \mathbf{z}$ 与 $\mathbf{z}^T \mathbf{B} \mathbf{z}$ 独立的条件为 $\mathbf{A} \mathbf{\Sigma} \mathbf{B} = \mathbf{0}$ （Craig定理）。此性质在回归方差分析中保证ESS与RSS的独立性，从而确保 $F$ 统计量的分布推导有效。

最优化理论与海塞矩阵

在无约束最优化中，目标函数 $f(\mathbf{x})$ 在驻点 $\mathbf{x}^*$ 处的二阶泰勒展开为：

f(\mathbf{x}^* + \mathbf{h}) \approx f(\mathbf{x}^*) + \frac{1}{2} \mathbf{h}^T \nabla^2 f(\mathbf{x}^*) \mathbf{h}

其中 $\nabla^2 f(\mathbf{x}^*)$ 为海塞矩阵， $\mathbf{h}^T \nabla^2 f \mathbf{h}$ 是一个二次型。极值的二阶充分条件直接等价于该二次型的定性：

海塞矩阵正定 $\iff$ 严格局部极小值
海塞矩阵负定 $\iff$ 严格局部极大值

在带约束优化中，加边海塞矩阵对应的二次型 $\mathbf{v}^T \nabla^2_{\mathbf{x}\mathbf{x}} \mathcal{L} \cdot \mathbf{v}$ （约束在切空间 $\mathbf{v}^T Dg = \mathbf{0}$ 上）的定性决定了条件极值的性质。消费者理论中效用最大化和成本最小化的二阶条件即由此给出。

金融与投资组合理论

在马科维茨均值-方差模型中，投资组合的方差是一个关于权重向量 $\mathbf{w}$ 的二次型：

\sigma_p^2 = \mathbf{w}^T \mathbf{\Sigma} \mathbf{w}

其中 $\mathbf{\Sigma}$ 为资产收益率的协方差矩阵（至少半正定）。在最小方差组合的求解中，给定目标收益 $\mu_p$ 及预算约束 $\mathbf{w}^T \mathbf{1} = 1$ ，问题化为二次规划：

\min_{\mathbf{w}} \frac{1}{2} \mathbf{w}^T \mathbf{\Sigma} \mathbf{w} \quad \text{s.t.} \quad \mathbf{w}^T \boldsymbol{\mu} = \mu_p, \quad \mathbf{w}^T \mathbf{1} = 1

最优组合权重显式依赖于 $\mathbf{\Sigma}^{-1}$ ，而分散化效应的大小取决于协方差矩阵的非对角元素——最小特征值对应的特征向量方向即为最小方差方向。

二次型与克罗内克积

在处理矩阵变量时，二次型与克罗内克积和向量化算子结合。例如，对于矩阵 $\mathbf{X}$ 和对称正定矩阵 $\mathbf{\Omega}, \mathbf{\Psi}$ ，迹形式与二次型等价：

\operatorname{tr}(\mathbf{X}^T \mathbf{\Omega} \mathbf{X} \mathbf{\Psi}) = \operatorname{vec}(\mathbf{X})^T (\mathbf{\Psi} \otimes \mathbf{\Omega}) \operatorname{vec}(\mathbf{X})

这种表示在广义最小二乘（GLS）和面板数据模型的SUR（似不相关回归）估计中频繁出现，使得多方程系统的方差结构可以统一用二次型语言描述。

返回百科索引