正交变换法

定义

正交变换法（Orthogonal Transformation Method）是指利用正交矩阵或正交变换——即保持向量内积和欧几里得范数不变的线性变换——来解决数学与工程问题的一类方法的统称。在线性代数中，一个 $n\times n$ 实矩阵 $Q$ 被称为正交矩阵，当且仅当 $Q^\top Q = Q Q^\top = I_n$，即其转置等于其逆矩阵。正交变换的几何意义是保持向量之间的夹角和长度不变，因此它本质上对应着欧几里得空间中的旋转与反射。正交变换法的核心价值在于：通过将原始问题置于一个更简便的坐标系中，既还原问题的内在对称结构，又保证数值计算的稳定性。在应用数学、统计学、信号处理、量子力学和机器学习等领域，正交变换法均扮演着基础性工具的角色。

正交变换的基本性质

正交变换具有若干关键代数性质。设 $Q$ 为正交矩阵，则其行列式满足 $\det(Q) = \pm 1$；当 $\det(Q) = 1$ 时，对应旋转变换；当 $\det(Q) = -1$ 时，对应反射（含旋转的复合）。正交矩阵的列向量构成 $\mathbb{R}^n$ 的一组标准正交基，即任意两列的内积为零，每列自身的范数为 1。行向量同样构成标准正交基。在数值线性代数中，正交变换的一个重要优势是它不放大误差：对于任意向量 $x$，有 $\|Qx\|_2 = \|x\|_2$，即正交变换在二范数意义下是条件数最优的变换，这使得基于正交变换的算法（如 QR 分解、奇异值分解）具有良好的数值稳定性，不会因浮点运算的舍入误差而急剧放大已有误差。

施密特正交化与 QR 分解

施密特正交化（Gram–Schmidt Orthogonalization）是构造正交变换的基础方法之一。给定一组线性无关的向量 $\{v_1, v_2, \dots, v_k\}$，标准施密特正交化过程通过依次减去已处理方向上的投影分量，逐步构建出一组标准正交基 $\{u_1, u_2, \dots, u_k\}$。该过程可表达为矩阵形式：任意满秩矩阵 $A$ 可分解为 $A = QR$，其中 $Q$ 的列构成标准正交基，$R$ 为上三角矩阵。这一 QR 分解是正交变换法的核心算法之一。在实际计算中，改进的施密特正交化方法（Modified Gram–Schmidt）和基于 Householder 反射变换的数值方法通常比经典施密特方法具有更好的数值稳定性。QR 分解被广泛用于求解最小二乘问题：对于超定线性方程组 $Ax \approx b$，其最小二乘解可通过 $Rx = Q^\top b$ 回代高效求出。此外，QR 分解也是计算特征值的 QR 算法的基础步骤。

正交对角化与谱分解

正交变换法最经典的应用之一是对实对称矩阵的正交对角化。设 $A$ 为 $n\times n$ 实对称矩阵，谱定理指出 $A$ 可被正交对角化：存在正交矩阵 $Q$ 和对角矩阵 $\Lambda$，使得 $A = Q\Lambda Q^\top$，其中 $\Lambda$ 的对角元为 $A$ 的特征值，$Q$ 的列对应相应的标准正交特征向量。这一分解称为谱分解（Spectral Decomposition）。求解这一分解的经典方法是先计算特征多项式或使用幂法迭代求得特征值，再通过求解 $(A - \lambda_i I)v_i = 0$ 得到特征向量，最后用施密特正交化将同一特征值的特征向量组正交化。正交对角化在多元统计分析中至关重要：主成分分析（PCA）的核心即对协方差矩阵进行正交对角化，将高维数据投影到方差最大的方向上，从而实现降维与特征提取。在力学中，对惯性张量的正交对角化给出主转动轴；在量子力学中，对哈密顿量的正交对角化揭示系统的能级结构。

正交变换在二次型化简中的应用

在二次型理论中，正交变换法被用于将二次型化为标准形。设有实二次型 $f(x) = x^\top A x$，其中 $A$ 为实对称矩阵。通过正交变换 $x = Qy$，可将二次型化为 $f = \lambda_1 y_1^2 + \lambda_2 y_2^2 + \dots + \lambda_n y_n^2$，即标准形，其中 $\lambda_i$ 为 $A$ 的特征值。这一标准形直接揭示了二次型的正定性、有界性以及极值性质。由于正交变换保持向量长度不变，因此这一化简不会扭曲几何度量，使得变量替换后的极值条件与原问题等价。在解析几何中，正交变换法被用于将一般的二次曲线或二次曲面方程化为标准方程，从而判断其类型（椭圆、双曲线、抛物面等）与几何特征。这种方法的优越性在于：正交变换本质上就是坐标轴的旋转（可能加上反射），因而保留了图形的欧几里得结构，使几何直观不受破坏。

正交变换在数值计算与信号处理中的角色

在数值线性代数中，基于正交变换的算法以其数值稳定性著称。Householder 反射和 Givens 旋转变换是构造正交矩阵的两类基本方法。Householder 变换通过一个反射超平面将一个向量变换为其镜像，可用于一次性将矩阵某一列的下方元素全部置零；Givens 旋转则只对两个坐标平面进行旋转，适合在稀疏矩阵中有选择地消除元素。两者结合构成了 QR 分解的可靠实现。在信号处理领域，离散傅里叶变换（DFT）和离散余弦变换（DCT）均为正交变换，它们将时域信号映射为频域表示，广泛用于频谱分析、图像压缩（如 JPEG 标准使用 DCT）和音频编码。小波变换同样保持了正交性，使得信号的多分辨率分解与重构能够无损进行。在机器学习中，正交初始化、正交正则化和批归一化等技术均利用了正交变换保持梯度和方差的特性，有助于缓解深度神经网络中的梯度消失与梯度爆炸问题。

正交变换法的局限

尽管正交变换法在理论和数值上具备诸多优势，但其应用也面临若干局限。首先，正交分解的计算复杂度通常为 $O(n^3)$，对于超高维数据（如基因表达数据或高分辨率图像），直接计算完整的正交分解在计算上不可行，需要借助随机化算法或迭代方法进行近似。其次，实对称假设是正交对角化的前提；对于非对称矩阵，虽然仍可通过奇异值分解获得左右奇异向量矩阵的正交性，但奇异值分解并不等价于特征分解，正交变换的解释力也随之减弱。第三，正交变换保持向量范数的特性在某些场合反而成为限制——当数据中存在离群点时，基于 L2 范数的正交方法（如 PCA）对异常值极为敏感，而基于 L1 范数的鲁棒替代方法则放弃了正交性，以牺牲旋转不变性来换取稳健性。最后，正交变换法给出的结果往往是线性变换，当数据之间存在高度非线性结构时，线性正交变换不足以充分刻画数据的内在流形，此时需要引入核方法或流形学习等非线性降维技术作为补充。