舒尔补 (Schur Complement)
舒尔补(Schur Complement)是线性代数和矩阵分析中的一个核心概念,由德国数学家 Issai Schur 提出。对于分块矩阵,舒尔补提供了对某个子块"消除"其余部分后的矩阵表示,在高斯消元、矩阵求逆、优化理论和概率统计中均有广泛应用。
定义与构造
设分块矩阵
M=(ACBD)
其中 A 为 p×p 可逆方阵,B 为 p×q,C 为 q×p,D 为 q×q。
A 的舒尔补(即对块 D 消除 A 后得到的矩阵)定义为:
M/A=D−CA−1B
该矩阵的阶数与 D 相同(q×q)。
对称地,若 D 可逆,D 的舒尔补定义为:
M/D=A−BD−1C
核心性质
行列式公式:若 A 可逆,则
det(M)=det(A)⋅det(M/A)
这一公式将大矩阵的行列式分解为子块行列式的乘积,在理论推导中极为有用。
逆矩阵公式:若 A 和 M/A 均可逆,则 M 可逆且
M−1=(A−1+A−1B(M/A)−1CA−1−(M/A)−1CA−1−A−1B(M/A)−1(M/A)−1)
该公式将大矩阵求逆转化为较小的子块求逆,是计算分块矩阵逆的经典工具。
正定性:若 M 为对称矩阵,则 M 正定当且仅当 A 正定且 M/A 正定。这一性质在凸优化和数值优化中用于验证矩阵的正定性。
高斯消元解释:对 M 进行分块高斯消元,将第二行块消去 C 时,D 位置被替换为 D−CA−1B,这正是舒尔补。因此舒尔补本质上就是分块消元后的剩余矩阵。
应用
在多元正态分布中,舒尔补直接给出条件分布的参数。设 (X,Y) 服从联合正态分布,协方差矩阵为 Σ,则 X∣Y 的条件协方差矩阵恰为 ΣXX 的舒尔补:Var(X∣Y)=ΣXX−ΣXYΣYY−1ΣYX。
在混合线性模型和限制最大似然估计(REML)中,舒尔补用于消除固定效应以获得简化似然函数。在高斯过程回归中,舒尔补是高效计算预测分布的数学基础。在拟牛顿法(如 BFGS)和内点法中,舒尔补用于降维求解大规模线性方程组。
舒尔补还广泛用于线性矩阵不等式(LMI)控制理论中,以及稀疏矩阵的直接求解器中,是连接线性代数与数值计算的关键概念。