正交补空间

正交补空间是内积空间理论中的核心概念，它将欧氏几何中"垂线"或"垂直"的直观感受推广到了任意维度的抽象空间。学习线性代数时，我们最初接触的是平面和三维空间中直线与直线、直线与平面之间的垂直关系。正交补空间将这些具体情形统一为一个一般性的数学框架。给定一个内积空间 $V$ 及其子空间 $W$，$W$ 的正交补定义为 $V$ 中所有与 $W$ 中每个向量都正交的向量构成的集合，记作 $W^\perp$，即：

其中 $\langle \cdot, \cdot \rangle$ 是 $V$ 上的内积。这个定义虽然形式简洁，却蕴含着丰富的数学结构，是连接几何直观与代数运算的重要纽带。

基本性质

正交补空间具有一系列优美且重要的性质。首先，$W^\perp$ 始终是 $V$ 的子空间，即使 $W$ 本身只是 $V$ 的任意子集而不一定是子空间。这一结论源于内积对第一个变元的线性性质：若 $v_1, v_2 \in W^\perp$，则对任意 $w \in W$ 有 $\langle v_1 + v_2, w \rangle = \langle v_1, w \rangle + \langle v_2, w \rangle = 0$，且对任意标量 $\lambda$ 有 $\langle \lambda v_1, w \rangle = \lambda \langle v_1, w \rangle = 0$，因此 $W^\perp$ 对加法运算和数乘运算都是封闭的，完全满足子空间的判定条件。

其次，子空间与其正交补的交集仅为零向量，即 $W \cap W^\perp = \{0\}$。这一结论来自内积的正定性：若 $v$ 同时属于 $W$ 和 $W^\perp$，则 $v$ 与自身正交，即内积 $\langle v, v \rangle = 0$，由正定性可知 $v$ 必须是零向量。这条性质看似简单，却是保证后续直和分解唯一性的关键所在。

第三，包含关系具有反序性：若 $W_1 \subseteq W_2$，则 $W_2^\perp \subseteq W_1^\perp$。直观地理解，更大的子空间包含更多的向量，因此对其正交补中向量的约束条件也越多——需要与更多的向量逐一正交——从而得到的正交补反而更小。这种包含关系的反转性质与 Galois 连接理论有着深刻的联系，在序理论和泛函分析中都扮演着重要角色。

第四，双重正交补包含原空间：$W \subseteq (W^\perp)^\perp$ 对任意子空间 $W$ 恒成立。在有限维内积空间中，更强的结论成立：$(W^\perp)^\perp = W$，这就是双重正交补定理。在无限维 Hilbert 空间中，该等式仅对闭子空间成立，一般情形下 $\overline{W} = (W^\perp)^\perp$，其中 $\overline{W}$ 是 $W$ 在拓扑意义下的闭包。

直和分解定理

正交补最重要的性质是直和分解定理。对于有限维内积空间 $V$ 的任意子空间 $W$，有：

这意味着 $V$ 中的每个向量 $v$ 都可以唯一地分解为 $v = w + w^\perp$，其中 $w \in W$，$w^\perp \in W^\perp$。这样的分解称为正交分解，因为两个分量之间相互正交。直和分解的维度关系为 $\dim V = \dim W + \dim W^\perp$，从而 $\dim W^\perp = \dim V - \dim W$。这一关系从侧面反映了子空间与其正交补在维度上的互补性。

从矩阵的角度来看，若 $W$ 是 $\mathbb{R}^n$ 中由矩阵 $A$ 的列空间 $\operatorname{Col}(A)$，则 $W^\perp$ 正是 $A^\mathrm{T}$ 的零空间 $\operatorname{Nul}(A^\mathrm{T})$。这构成了线性代数基本定理中四个基本子空间——列空间、零空间、行空间、左零空间——之间正交关系的关键组成部分。

正交投影算子

直和分解 $V = W \oplus W^\perp$ 自然引出了正交投影算子的概念。对每个 $v \in V$，其在 $W$ 上的正交投影 $P_W(v)$ 就是上述分解中的 $w$ 分量。正交投影算子 $P_W$ 是线性算子，满足 $P_W^2 = P_W$（幂等性），并且 $P_W$ 是自伴算子，即对任意 $u, v \in V$ 有 $\langle P_W u, v \rangle = \langle u, P_W v \rangle$。

正交投影具有深刻的几何意义和最优化性质：$P_W(v)$ 是子空间 $W$ 中离 $v$ 最近的向量，即

这个变分性质是最小二乘法、逼近理论和信号处理等领域的基础。在实际应用中，求解最佳逼近问题往往等价于计算正交投影。例如在数据拟合中，观测向量在模型空间上的正交投影就是最小二乘估计；在图像处理中，信号在某个子空间上的正交投影对应着最优的降噪或压缩方案。

无穷维推广

在无穷维 Hilbert 空间 $H$ 中，正交补的概念同样居于核心地位。对于 $H$ 的任意子集 $S$，$S^\perp$ 总是 $H$ 的闭子空间，这是一个重要的拓扑性质。正交分解定理推广为：若 $M$ 是 $H$ 的闭子空间，则 $H = M \oplus M^\perp$，且相应的正交投影算子存在且唯一。这里闭子空间的前提条件是必不可少的，它与有限维情形形成了鲜明对比。

这一推广在泛函分析中具有深远影响。Riesz 表示定理、Lax-Milgram 定理以及自伴算子的谱理论都深刻依赖于正交补结构。在量子力学中，纯态对应 Hilbert 空间中的单位向量，可观测量的本征态构成正交基，而正交补则对应于量子测量中排除某些结果的概率空间，体现了正交补在物理诠释中的重要作用。

典型例子

例1：在欧氏空间 $\mathbb{R}^3$ 中，取 $W$ 为 $xy$ 平面，则 $W^\perp$ 为 $z$ 轴，即所有形如 $(0,0,z)$ 的向量构成的直线。此时 $\dim W = 2$，$\dim W^\perp = 1$，二者之和为 $3$，恰好是整个空间的维数。

例2：在 $\mathbb{R}^n$ 中，设 $W$ 为由单个非零向量 $a$ 张成的一维子空间，则 $W^\perp$ 是以 $a$ 为法向量的超平面 $\{ x \in \mathbb{R}^n \mid a \cdot x = 0 \}$，这是一个 $n-1$ 维子空间。这个例子在几何和优化中频繁出现。

例3：在函数空间 $L^2[-\pi,\pi]$ 中，取内积 $\langle f,g \rangle = \int_{-\pi}^{\pi} f(x)g(x)\,dx$，常值函数构成一维闭子空间 $W$。则 $W^\perp$ 包含所有在 $[-\pi,\pi]$ 上积分为零的函数。Fourier 级数中常数项与余项之间的正交性即源于此。

计算方法

在实际计算中，给定矩阵 $A \in \mathbb{R}^{m \times n}$ 的列空间 $W = \operatorname{Col}(A)$，求 $W^\perp$ 的一组基等价于求 $A^\mathrm{T}$ 的零空间的基，可通过 Gauss 消元法或 QR 分解完成。Gram-Schmidt 正交化过程能够构造子空间的一组正交基，进而得到正交投影算子的显式表达式。对于大规模问题，迭代方法如共轭梯度法隐式地利用了正交补的结构信息来提高计算效率。

正交补在微分方程、优化理论、统计推断和机器学习中均有广泛应用。在约束优化中，可行方向与约束梯度正交补空间的关系是 KKT 条件的几何基础。在统计线性模型中，残差向量位于设计矩阵列空间的正交补中，这构成了方差分析和模型诊断的理论依据。在信号处理中，正交补用于设计滤波器组和小波变换。

总而言之，正交补空间是沟通几何直观与代数运算的桥梁，是线性代数从有限维向量空间迈向无限维分析和应用数学的关键概念。