ARTICLE

无穷范数

无穷范数 无穷范数(infinity norm),又称最大范数(maximum norm)、切比雪夫范数(Chebyshev norm)或上确界范数(supremum norm),是向量和矩阵分析中最基本的范数之一。其核心思想极为朴素:一个向量的"大小"由其各分量绝对值的最大值决定。 定义 向量无穷范数 对于 n 维实向量 x = (x_1, x_2, ,

浏览 0 更新 2025-12-03

无穷范数

无穷范数(infinity norm),又称最大范数(maximum norm)、切比雪夫范数(Chebyshev norm)或上确界范数(supremum norm),是向量和矩阵分析中最基本的范数之一。其核心思想极为朴素:一个向量的"大小"由其各分量绝对值的最大值决定。

定义

向量无穷范数

对于 n n 维实向量 x=(x1,x2,,xn)Rn \mathbf{x} = (x_1, x_2, \ldots, x_n) \in \mathbb{R}^n ,其无穷范数定义为:

x=max1inxi\|\mathbf{x}\|_\infty = \max_{1 \leq i \leq n} |x_i|

对于复向量,取复数的模 xi |x_i| 后取最大值。在函数空间中,无穷范数自然推广为:

f=supxDf(x)\|f\|_\infty = \sup_{x \in D} |f(x)|

这便是 L^∞ 范数的标准形式。

矩阵无穷范数

矩阵的无穷范数(induced infinity norm)由向量无穷范数诱导而来:

A=maxx=1Ax=max1imj=1naij\|A\|_\infty = \max_{\|\mathbf{x}\|_\infty = 1} \|A\mathbf{x}\|_\infty = \max_{1 \leq i \leq m} \sum_{j=1}^{n} |a_{ij}|

最大绝对行和——计算每行元素绝对值之和,取最大者。这一简洁性使得矩阵无穷范数在数值线性代数中极为实用。

作为 Lp L^p 范数的极限

无穷范数的命名源于它是 p p -范数在 p p \to \infty 时的极限。对于向量 x \mathbf{x} Lp L^p 范数为:

xp=(i=1nxip)1/p,p1\|\mathbf{x}\|_p = \left( \sum_{i=1}^{n} |x_i|^p \right)^{1/p}, \quad p \geq 1

p p \to \infty 时,可以通过极限分析证明:

limpxp=maxixi=x\lim_{p \to \infty} \|\mathbf{x}\|_p = \max_i |x_i| = \|\mathbf{x}\|_\infty

直观解释:随着 p p 增大,最大的分量 xkp |x_k|^p 在求和项中迅速占据绝对主导地位。其他分量即使只稍小一点,其 p p 次幂也会被指数放大效应碾压,最终在开 p p 次根后收敛到最大值。

形式证明:令 M=maxixi M = \max_i |x_i| ,设 xk=M x_k = M ,则:

M=(Mp)1/p(xip)1/p(nMp)1/p=n1/pMM(p)M = (M^p)^{1/p} \leq \left(\sum |x_i|^p\right)^{1/p} \leq (n M^p)^{1/p} = n^{1/p} M \to M \quad (p \to \infty)

夹逼定理即得结论。

范数公理的验证

无穷范数满足范数的全部三条公理:

  1. 正定性x0 \|\mathbf{x}\|_\infty \geq 0 ,且 x=0    x=0 \|\mathbf{x}\|_\infty = 0 \iff \mathbf{x} = \mathbf{0}
  2. 齐次性αx=maxαxi=αmaxxi=αx \|\alpha \mathbf{x}\|_\infty = \max |\alpha x_i| = |\alpha| \max |x_i| = |\alpha| \cdot \|\mathbf{x}\|_\infty
  3. 三角不等式x+y=maxxi+yimax(xi+yi)maxxi+maxyi=x+y \|\mathbf{x} + \mathbf{y}\|_\infty = \max |x_i + y_i| \leq \max (|x_i| + |y_i|) \leq \max |x_i| + \max |y_i| = \|\mathbf{x}\|_\infty + \|\mathbf{y}\|_\infty

单位球

无穷范数的单位球(所有满足 x=1 \|\mathbf{x}\|_\infty = 1 的点集)在 Rn \mathbb{R}^n 中是一个超立方体(hypercube)的表面。具体而言:

  • R2 \mathbb{R}^2 中,单位球是边长为 2、中心在原点的正方形边界
  • R3 \mathbb{R}^3 中,单位球是边长为 2 的立方体表面
  • 一般地,在 Rn \mathbb{R}^n 中,是超立方体 [1,1]n [-1,1]^n 的边界

对比之下:L1 L^1 单位球是菱形(二维)或八面体(三维),L2 L^2 单位球是标准的圆/球面。三种范数的单位球从内到外依次为:L L^\infty 球包含 L2 L^2 球,L2 L^2 球包含 L1 L^1 球。

对偶范数

无穷范数的对偶范数是 L1 L^1 范数。由 Hölder 不等式:

xTyxy1|\mathbf{x}^T \mathbf{y}| \leq \|\mathbf{x}\|_\infty \cdot \|\mathbf{y}\|_1

且这个界是紧的(取 y \mathbf{y} x \mathbf{x} 的最大分量对应的标准基向量可达到等号。严格地说,对偶范数定义为 y=supx1xTy \|\mathbf{y}\|_* = \sup_{\|\mathbf{x}\|_\infty \leq 1} \mathbf{x}^T \mathbf{y} ,恰等于 y1 \|\mathbf{y}\|_1 )。

等价性与其他范数的关系

在有限维空间中,所有范数等价。无穷范数与 L1 L^1 L2 L^2 范数之间有以下不等式关系:

xx2nx\|\mathbf{x}\|_\infty \leq \|\mathbf{x}\|_2 \leq \sqrt{n} \|\mathbf{x}\|_\infty
xx1nx\|\mathbf{x}\|_\infty \leq \|\mathbf{x}\|_1 \leq n \|\mathbf{x}\|_\infty
1nx1x2x1\frac{1}{\sqrt{n}} \|\mathbf{x}\|_1 \leq \|\mathbf{x}\|_2 \leq \|\mathbf{x}\|_1

这些不等式在数值分析中用于误差估计和收敛性分析。

计算方法

无穷范数的计算复杂度为 O(n) O(n) ——只需一次遍历找到绝对值最大的分量。这使得它在计算上极为高效,尤其适合:

  • 残差评估:在迭代算法中快速检查 r(k)<ε \|\mathbf{r}^{(k)}\|_\infty < \varepsilon 作为终止条件
  • 最坏情况分析:关注最大偏差,而非平均偏差
  • 鲁棒性验证:控制系统设计中检查最大误差是否在容许范围内

应用场景

数值线性代数

矩阵无穷范数(最大行和)因其计算简单而广泛用于条件数估计和向后误差分析。线性方程组 Ax=b A\mathbf{x} = \mathbf{b} 的无穷范数条件数为:

κ(A)=AA1\kappa_\infty(A) = \|A\|_\infty \cdot \|A^{-1}\|_\infty

逼近论

在切比雪夫逼近理论中,无穷范数是自然的选择:寻找多项式 pn(x) p_n(x) 使得最大绝对偏差 fpn \|f - p_n\|_\infty 最小化。这正是切比雪夫多项式成为最优一致逼近多项式的原因,也是"切比雪夫范数"这一别名的由来。

机器学习和优化

  • L∞ 正则化:虽不如 L1 L^1 L2 L^2 常见,但有时用于对最大参数幅值施加硬约束
  • 对抗样本:攻击者常以 L L^\infty 球为约束(每个像素最多改变 ε \varepsilon ),因为这模拟了人眼不可察觉的扰动上界
  • 鲁棒优化:worst-case optimization 的本质即是用无穷范数衡量不确定性

控制理论

H H_\infty 控制理论以无穷范数度量系统的最大增益(从扰动到输出的最坏放大比),是鲁棒控制的基石。

与 L¹、L² 的对比

| 特性 | 1 \|\cdot\|_1 | 2 \|\cdot\|_2 | \|\cdot\|_\infty | |---|---|---|---|---| | 计算 | 求和 | 平方和开根 | 取最大值 | | 单位球 | 菱形/八面体 | 圆/球面 | 正方形/立方体 | | 可微性 | 在轴上不可微 | 除原点外可微 | 在等值面上不可微 | | 对偶范数 | \infty -范数 | 自身 | 1-范数 | | 敏感度 | 平均敏感 | 能量敏感 | 极值敏感 |

总结

无穷范数以其简洁的定义——"取绝对值最大者"——贯穿数学的各个分支。从 Lp L^p 空间的极限性质,到切比雪夫逼近的最优性,再到现代机器学习中的对抗鲁棒性,无穷范数始终扮演着不可替代的角色。它的计算效率(O(n) O(n) )和最坏情况语义,使其成为工程师和数学家工具箱中的基础利器。

参见

  • [[Lp空间]]
  • [[范数]]
  • [[切比雪夫多项式]]
  • [[矩阵范数]]
  • [[条件数]]
  • [[H∞控制]]
  • [[函数空间]]