仿射函数 (Affine Function)
仿射函数 (Affine Function) 是数学中一类兼具线性结构与平移变换的映射,其一般形式可写作 f(x)=Ax+b,其中 A 为线性变换矩阵,b 为平移向量。仿射函数在凸优化、计量经济学、机器学习和博弈论等领域中扮演着基础性角色:它既是线性模型的广义版本,也是凸分析中最简单的凸函数之一。理解仿射函数的核心在于把握它与线性函数之间的细微区别——所有线性函数都是仿射函数,但仿射函数未必通过原点。
形式化定义
设 V 和 W 为域 F 上的向量空间。映射 f:V→W 称为仿射映射,若存在线性映射 T:V→W 和向量 b∈W,使得对所有 x∈V 均有:
f(x)=T(x)+b.
当 W=R 且 V=Rn 时,仿射函数的具体形式为:
f(x1,x2,…,xn)=a1x1+a2x2+⋯+anxn+b,
其中 ai∈R 为系数,b∈R 为截距项。用矩阵记号可写作 f(x)=a⊤x+b。
仿射函数的关键区别性特征为:对任意 λ∈F 和 x,y∈V,仿射函数满足
f(λx+(1−λ)y)=λf(x)+(1−λ)f(y).
这一等式恰好是凸函数定义中的等号情形——仿射函数既是凸函数也是凹函数。
仿射函数与线性函数的关系
仿射函数与线性函数之间的混淆是数学学习中的常见误区。线性函数 L(x) 必须满足齐次性 L(αx)=αL(x) 和可加性 L(x+y)=L(x)+L(y),从而必然满足 L(0)=0。仿射函数 f(x)=T(x)+b 在 b=0 时不再满足 f(0)=0,因此不是线性函数。
然而,任何仿射函数都可以通过"嵌入高一维"的方式转化为线性函数:定义 x~=(x,1)∈Rn+1 和 A~=[Ab]∈Rm×(n+1),则 f(x)=A~x~ 变为线性函数。这一技巧在齐次坐标和计算机图形学中具有重要应用。
从代数几何的角度看,在线性空间中,仿射函数是线性函数与常数函数的和;在更抽象的范畴论视角下,仿射映射是在仿射空间范畴中保持凸组合的映射。
几何解释
在 R2 中,仿射函数 f(x)=ax+b 对应一条直线,其中 a 为斜率,b 为 y 轴截距。在 R3 中,仿射函数 f(x,y)=a1x+a2y+b 对应一个倾斜的平面。在更高维度中,仿射函数的图像是一个超平面。
仿射函数的水平集(等值线)是相互平行的仿射子空间。对于 f(x)=a⊤x+b,集合 {x∣f(x)=c} 是一个超平面,其法向量为 a,与原点距离为 (c−b)/∥a∥。这一几何性质是支持向量机 (SVM) 分类器的理论基础——SVM 在特征空间中寻找分隔不同类别的最大间隔超平面,其决策边界恰好是一个仿射函数。
仿射函数在优化与经济学中的应用
在凸优化中,仿射函数是最简单的优化对象:仿射函数的极小化或极大化问题对应于线性规划 (Linear Programming)。标准形式的线性规划问题可写为:
xminc⊤x+ds.t.Ax≤b,x≥0,
其中目标函数 c⊤x+d 为仿射函数。线性规划是运筹学中最成熟的分支之一,其解空间的结构完全由仿射约束所定义的多面体决定。
在微观经济学中,仿射函数频繁出现在预算约束、需求函数和生产函数的局部近似中。消费理论中的预算线 p1x1+p2x2=I 是一个仿射方程,其斜率刻画了两种商品之间的边际替代率。在计量经济学中,经典线性回归模型 yi=β0+β1xi1+⋯+βkxik+εi 的核心部分正好是仿射函数——它假定因变量 y 的条件期望是自变量的仿射组合。
在博弈论中,混合策略纳什均衡的存在性证明依赖于布劳威尔不动点定理或角谷不动点定理,而这些定理的证明通常需要将策略空间上的支付函数近似为仿射函数,再通过对单纯形上的仿射映射施加不动点论证。
仿射变换与机器学习
在机器学习中,仿射变换构成了神经网络的基石。一个全连接层 (Fully Connected Layer) 的计算正是仿射函数:h=Wx+b,其中 W 为权重矩阵,b 为偏置向量。偏置项 b 的存在使得神经网络能够在不通过原点的情况下学习表示,极大地增强了模型的表达能力。
在主成分分析 (PCA) 和线性判别分析 (LDA) 中,数据通过仿射变换被投影到低维子空间。PCA 寻找最大化投影方差的仿射变换,而 LDA 寻找最大化类间分离度的仿射变换。这些方法的共同点是其最优解可通过封闭形式的特征值分解获得——这是仿射结构带来的数学便利。
在正则化理论中,岭回归 (Ridge Regression) 和套索回归 (Lasso) 所解决的优化问题都可以视为在仿射预测函数族 {x↦w⊤x+b} 中最小化带惩罚项的经验风险。
仿射函数的代数性质
仿射函数在复合运算下构成一个封闭的代数结构。若 f(x)=Ax+b 且 g(y)=Cy+d,则复合映射 g∘f 为:
g(f(x))=C(Ax+b)+d=(CA)x+(Cb+d),
仍然是仿射函数。仿射函数的逆映射(若存在)也是仿射函数:若 A 可逆,则 f−1(y)=A−1(y−b)。
在泛函分析中,哈恩-巴拿赫定理 (Hahn-Banach Theorem) 的核心是确保有界线性泛函可以被延拓——这一延拓通常以仿射函数的形式出现在几何版本(分离超平面定理)中。几何哈恩-巴拿赫定理指出:对于两个不相交的凸集,存在一个仿射函数(即一个超平面)将它们严格分离。这一结论构成了凸分析中几乎所有对偶理论的逻辑起点。
仿射函数与凸性
仿射函数在凸分析中具有独特的地位。它同时是凸函数和凹函数,因而也是唯一一类既是凸又是凹的非平凡函数。这一性质意味着仿射函数既是凸优化问题的理想目标函数(因其全局最优解即局部最优解),也是凸约束的理想边界形式(因其水平集是凸集)。
在次梯度理论中,凸函数 f 在点 x0 处的次梯度集合 ∂f(x0) 定义为使得仿射函数 f(x0)+g⊤(x−x0) 成为 f 的全局下界的所有 g 的集合。换言之,每个次梯度都定义了一个在 x0 处与 f 相切的仿射支撑函数。当 f 本身是仿射函数时,∂f(x0)={a}——唯一次梯度就是其斜率向量。
综上所述,仿射函数虽在形式上简单,却是连接线性代数、几何、优化理论和机器学习等多个数学分支的枢纽。从预算线到神经网络,从线性规划到支持向量机,仿射函数以其简洁而强大的结构贯穿了现代定量科学的方方面面。