正交补

正交补 (Orthogonal Complement)

正交补（Orthogonal Complement）是线性代数与泛函分析中的核心概念，指内积空间中与给定子空间的所有向量都正交的全体向量所构成的子空间。设 $V$ 是装备内积 $\langle \cdot, \cdot \rangle$ 的向量空间（通常为 $\mathbb{R}^n$ 或 Hilbert 空间），$W \subseteq V$ 是一个线性子空间，则 $W$ 的正交补定义为：

该集合本身也是 $V$ 的线性子空间。若 $W$ 是 $\mathbb{R}^3$ 中过原点的直线，则 $W^\perp$ 是与之垂直的过原点平面；若 $W$ 是过原点的平面，则 $W^\perp$ 是其法线。

基本性质

有限维内积空间中，正交补满足以下重要性质：

1. 维数关系： $\dim(W) + \dim(W^\perp) = \dim(V)$。该等式可由 Gram–Schmidt 正交化过程直接导出：将 $W$ 的标准正交基扩充为 $V$ 的标准正交基，扩充出的基向量恰生成 $W^\perp$。
2. 二次取补： $(W^\perp)^\perp = W$。在有限维情形下取两次正交补恢复原空间；在无限维 Hilbert 空间中则仅对闭子空间成立，此时 $(W^\perp)^\perp = \overline{W}$（$W$ 的闭包）。
3. 正交直和分解： $V = W \oplus W^\perp$，即任意向量 $v \in V$ 可唯一分解为 $v = w + w^\perp$，其中 $w \in W$, $w^\perp \in W^\perp$，且 $\langle w, w^\perp \rangle = 0$。这一分解是投影定理的基础。
4. 包含反向： 若 $U \subseteq W$，则 $W^\perp \subseteq U^\perp$。正交补运算反转包含关系。
5. 交与和的补： $(U + W)^\perp = U^\perp \cap W^\perp$，$(U \cap W)^\perp = U^\perp + W^\perp$。
6. 零空间与全空间： $\{0\}^\perp = V$，$V^\perp = \{0\}$。

与线性映射的关系

给定矩阵 $A \in \mathbb{R}^{m \times n}$，其四个基本子空间之间存在经典的正交补关系。将 $\mathbb{R}^n$ 和 $\mathbb{R}^m$ 装备标准欧氏内积，则：

换言之，$A$ 的零空间是 $A^\top$ 的列空间的正交补，$A^\top$ 的零空间是 $A$ 的列空间的正交补。由此可得 Fredholm 二择一：$Ax = b$ 有解当且仅当 $b \in (\ker(A^\top))^\perp$。

经济学与计量经济学中的应用

正交补在经济学中的核心应用出现在最小二乘法（OLS）的几何解释中。考虑线性回归模型 $y = X\beta + \varepsilon$，其中 $X$ 是 $n \times k$ 设计矩阵。OLS 估计量 $\hat{\beta}$ 所生成的拟合值 $\hat{y} = X\hat{\beta}$ 是 $y$ 在 $X$ 的列空间 $\mathcal{C}(X)$ 上的正交投影。残差向量 $\hat{\varepsilon} = y - \hat{y}$ 属于 $\mathcal{C}(X)^\perp$，满足正交条件 $X^\top \hat{\varepsilon} = 0$，这正是正规方程的几何本质。整个 $\mathbb{R}^n$ 被分解为正交直和：

其中 $\mathcal{C}(X)^\perp = \ker(X^\top)$。这一分解保证了 OLS 估计在一切线性无偏估计中的最小方差性质（Gauss–Markov 定理）。

在凸分析与优化理论中，正交补被用于刻画约束优化问题的切锥与法锥。对于可行集为线性子空间 $W$ 的等式约束，Lagrange 乘子属于 $W^\perp$。在资产定价理论中，定价核与超额收益空间的正交关系本质上也是正交补结构。在泛函分析的视角下，正交补与Riesz 表示定理紧密相关，为无穷维经济模型提供了基础框架。