矩阵迹

矩阵迹 (Trace of a Matrix)

矩阵迹（Trace），简称迹，是线性代数中最基本的矩阵标量不变量之一：一个方阵的迹定义为其主对角线元素之和。尽管定义朴素，迹却因满足循环不变性 $\operatorname{tr}(AB) = \operatorname{tr}(BA)$ 而拥有令人惊讶的代数深度与广泛的应用场景。在统计学与计量经济学中，迹是导出自由度、计算模型选择准则（如 AIC、Cp 统计量）以及分析岭回归收缩性质的核心工具；在机器学习中，迹范数（核范数）是低秩学习与矩阵补全的基石；在量子力学中，密度矩阵的迹恒为 1（概率归一）；在微分几何中，迹是 Ricci 曲率与标量曲率的定义入口。

定义与记法

设 $A = (a_{ij}) \in \mathbb{F}^{n \times n}$ 为域 $\mathbb{F}$（通常取 $\mathbb{R}$ 或 $\mathbb{C}$）上的 $n$ 阶方阵。$A$ 的迹定义为所有主对角线元素之和：

迹是从 $M_n(\mathbb{F})$ 到 $\mathbb{F}$ 的线性泛函：对任意方阵 $A, B$ 和标量 $\alpha, \beta \in \mathbb{F}$，有 $\operatorname{tr}(\alpha A + \beta B) = \alpha \operatorname{tr}(A) + \beta \operatorname{tr}(B)$。这一线性性是迹所有后续性质的代数根基。

迹的记法源自德文 Spur（痕迹、踪迹），在部分文献中也记作 $\operatorname{Sp}(A)$，尤其在量子力学与 Lie 代数语境中常见。英文 trace 一词由 Henry Frederic Baker 于 1901 年引入 (OED)，而 Dedekind 与 Frobenius 在 19 世纪末的表示论研究中已大量使用迹的德语等价词。

迹与转置的关系极为简单：$\operatorname{tr}(A^{\mathsf{T}}) = \operatorname{tr}(A)$。对于复矩阵，共轭转置满足 $\operatorname{tr}(A^*) = \overline{\operatorname{tr}(A)}$。特别地，对 Hermite 矩阵 $A = A^*$，迹为实数——因为对角元本身即为实数。

循环不变性与相似不变性

迹最重要的代数性质是循环置换不变性：对于任意兼容维度的矩阵 $A, B, C$，

只要乘积为方阵。更一般地，迹在循环置换下保持不变，但非对称置换不保持迹。最常用的是两矩阵情形：

即使 $A$ 与 $B$ 不是方阵——只要 $AB$ 与 $BA$ 分别为方阵，该等式均成立。证明仅需展开双重和：

循环性质的一个直接推论是相似不变性：若 $P$ 为可逆矩阵，则 $\operatorname{tr}(P^{-1} A P) = \operatorname{tr}(A)$。这是因为 $\operatorname{tr}(P^{-1} A P) = \operatorname{tr}(A P P^{-1}) = \operatorname{tr}(A)$。迹因此在相似变换下保持不变，属于矩阵的相似不变量，与行列式、特征值、秩并列。

循环性质亦可用于反向构造迹：在特征零域上，迹是满足 $\operatorname{tr}(AB) = \operatorname{tr}(BA)$ 的唯一（不计标量倍）线性泛函。即商空间 $M_n / [M_n, M_n]$ 是一维的，迹为其典范同构映射至基域。这一深刻事实将迹与Lie 代数 $\mathfrak{gl}(n)$ 的导代数结构相关联，迹恰为 Lie 代数表示论中的基本不变量。

迹与特征值

迹与矩阵的特征值之间存在优美的关系：方阵的迹等于所有特征值（计入代数重数）之和。若 $\lambda_1, \ldots, \lambda_n$ 为 $A$ 的特征值（可能为复数），则

证明可从特征多项式入手。将特征多项式按首一多项式展开：

$-\operatorname{tr}(A)$ 恰为 $\lambda^{n-1}$ 项的系数。另一方面，$p_A(\lambda) = \prod_{i=1}^{n} (\lambda - \lambda_i)$，展开后 $\lambda^{n-1}$ 系数为 $-\sum \lambda_i$，比较即得结论。

由此引出一系列推论：实对称矩阵的迹为实数（特征值均为实数）；正定矩阵的迹严格为正；幂零矩阵的迹为零（所有特征值均为零）。对于投影矩阵 $P = P^2 = P^*$，其迹等于矩阵的秩，即投影到的子空间维数——因为特征值仅取 0 或 1，且重数等于相应特征空间的维数。这一性质在统计学的帽子矩阵与方差分析（ANOVA）中反复出现。

迹与行列式的另一深刻联系由矩阵指数揭示：对于任意方阵 $A$，

此公式是 Lie 群 理论中 $\det \circ \exp = \exp \circ \operatorname{tr}$ 关系的特殊情形，也是 $\mathfrak{gl}(n) \to \mathrm{GL}(n)$ 映射下迹作为 Lie 代数同态的核心体现。

迹内积与 Frobenius 范数

迹可用来定义矩阵空间上的Frobenius 内积（亦称 Hilbert-Schmidt 内积）：

该内积导出的 Frobenius 范数 $\|A\|_F = \sqrt{\operatorname{tr}(A^* A)} = \sqrt{\sum_{i,j} |a_{ij}|^2}$ 使矩阵空间成为Hilbert 空间。Frobenius 内积在实矩阵情形退化为 $\operatorname{tr}(A^{\mathsf{T}} B)$，与Frobenius 内积词条中讨论的自然内积完全一致。

此框架下，对称矩阵空间 $\mathbb{S}^n$ 与反对称矩阵空间构成正交分解，投影映射可显式表为迹运算。在优化理论中，许多矩阵变量的目标函数（如 $\|X - Y\|_F^2$）对 $X$ 求梯度时需使用迹的导数恒等式 $\nabla_X \operatorname{tr}(A X) = A^{\mathsf{T}}$ 与 $\nabla_X \operatorname{tr}(A X^{\mathsf{T}} B) = B A$。

统计与计量经济学中的应用

迹是计量经济学中自由度计算的代数载体。考虑线性回归模型 $\hat{y} = H y$，其中 $H = X (X^{\mathsf{T}} X)^{-1} X^{\mathsf{T}}$ 为帽子矩阵。残差平方和 RSS 的期望为：

其中 $\operatorname{tr}(H) = p$ 等于参数个数，因此 $\operatorname{tr}(I - H) = n - p$ 即为残差自由度。此结论推广至岭回归（Ridge Regression）时，有效自由度定义为 $\mathrm{df}(\lambda) = \operatorname{tr}(H_\lambda) = \operatorname{tr}(X (X^{\mathsf{T}} X + \lambda I)^{-1} X^{\mathsf{T}})$，它是一个随惩罚参数 $\lambda$ 递减的连续量，刻画收缩估计的复杂度。

模型选择准则广泛使用迹。Cp 统计量（Mallows' Cp）估计预测误差时依赖 $\operatorname{tr}(H)$ 作为模型复杂度的度量。AIC（Akaike 信息准则）的推导中，Kullback-Leibler 散度的渐近期望涉及 Fisher 信息矩阵之迹与估计渐近协方差矩阵之迹的乘积。在面板数据的随机效应模型中，方差分量估计的 ANOVA 型估计量 $\hat{\sigma}_\alpha^2$ 通过预期均方（Expected Mean Squares）的形式导出，而预期均方本质上即是适当二次型期望的迹表达式。

此外，Hausman 检验统计量 $H = (\hat{\beta}_{FE} - \hat{\beta}_{RE})^{\mathsf{T}} [\operatorname{Var}(\hat{\beta}_{FE}) - \operatorname{Var}(\hat{\beta}_{RE})]^{-1} (\hat{\beta}_{FE} - \hat{\beta}_{RE})$ 的分布推导中，协方差矩阵差之迹用于确认检验的可逆性条件。

机器学习与优化中的迹

迹范数（Nuclear Norm）$\|X\|_* = \operatorname{tr}(\sqrt{X^* X}) = \sum \sigma_i(X)$ 是矩阵奇异值之和，也是秩函数在单位球上的最紧凸松弛。这一性质使迹范数成为矩阵补全（Matrix Completion）、鲁棒主成分分析（RPCA）与低秩表示学习的核心正则化工具。优化问题

在 Netflix 推荐系统竞赛后成为低秩恢复的标准化方法。

梯度下降的矩阵推广也依赖迹。对于矩阵变量目标函数 $f(X)$，其欧氏梯度 $\nabla f(X)$ 的 Frobenius 内积表示方向导数 $D f(X)[V] = \operatorname{tr}(\nabla f(X)^{\mathsf{T}} V)$。在主成分分析（PCA）中，最大化投影方差等价于 $\max_{U^{\mathsf{T}} U = I} \operatorname{tr}(U^{\mathsf{T}} S U)$，其中 $S$ 为样本协方差矩阵；在线性判别分析（LDA）中，同时对角化 $\Sigma_w^{-1} \Sigma_b$ 的目标函数写为迹比（trace ratio）优化问题 $\max \operatorname{tr}(W^{\mathsf{T}} S_b W) / \operatorname{tr}(W^{\mathsf{T}} S_w W)$。

若干进一步的恒等式与不等式

迹满足一系列经典不等式，其中最基本的是迹的 Cauchy-Schwarz 型界：对任意 $A, B \in \mathbb{R}^{n \times n}$，有 $|\operatorname{tr}(A^{\mathsf{T}} B)| \leq \|A\|_F \|B\|_F$。若 $A, B$ 为半正定对称矩阵，则 $\operatorname{tr}(AB) \geq 0$ 且满足 von Neumann 迹不等式：

其中特征值已按降序排列。此不等式在量子信息论中给出两个可观测量的期望值上界。

矩阵的迹与行列式通过算术-几何平均不等式（AM-GM）建立桥梁：对正定矩阵 $A$，有 $\frac{1}{n} \operatorname{tr}(A) \geq (\det A)^{1/n}$，等号成立当且仅当 $A$ 为标量矩阵 $\lambda I$。这一性质在推导信息论中的熵最大化分布与凸优化的对偶障碍函数时富有启发性。