ARTICLE

Jensen不等式

Jensen不等式 (Jensen's Inequality) Jensen不等式→分析数学/概率论/统计基础定理→描凸函数期望运算:f(E[X]) E[f(X)]→凹函数反向。经济(风险/效用/微观)/金融(资产定价)/信息论/ML(EM算法)广泛应用。丹麦J.Jensen名。 凸凹函数与形式 凸函数: x_1,x_2, [0,1]→f( x_1+(1-

浏览 23 更新 2025-11-29

Jensen不等式 (Jensen's Inequality)

Jensen不等式分析数学/概率论/统计基础定理→描凸函数期望运算:f(E[X])E[f(X)]f(E[X])\le E[f(X)]→凹函数反向。经济(风险/效用/微观)/金融(资产定价)/信息论/ML(EM算法)广泛应用。丹麦J.Jensen名。

凸凹函数与形式

凸函数x1,x2,λ[0,1]\forall x_1,x_2,\lambda\in[0,1]f(λx1+(1λ)x2)λf(x1)+(1λ)f(x2)f(\lambda x_1+(1-\lambda)x_2)\le\lambda f(x_1)+(1-\lambda)f(x_2)→割线在图像上方→二阶可微等价f(x)0f''(x)\ge0海森矩阵非负)。常见凸:x2,ex,logxx^2,e^x,-\log x凹函数f-f凸→不等式反向→常见凹:logx,x\log x,\sqrt{x}→经济效用函数常凹→边际效用递减

离散形式:非负权重λi\lambda_iλi=1\sum\lambda_i=1)→f(λixi)λif(xi)f(\sum\lambda_i x_i)\le\sum\lambda_i f(x_i)。概率形式:f(E[X])E[f(X)]f(E[X])\le E[f(X)]→连续f(xpdx)f(x)pdxf(\int xpdx)\le\int f(x)pdx

经济金融应用

期望效用理论冯诺依曼-摩根斯坦框架→风险厌恶对应凹效用(u<0u''<0)→E[u(W)]<u(E[W])E[u(W)]<u(E[W])→不确定财富期望效用<确定等额效用→愿付风险溢价消不确定性→保险市场存在根因。

资产定价/期权:看涨价值V(S)=max(SK,0)V(S)=\max(S-K,0)是标的S的凸函数→E[max(SK,0)]max(E[S]K,0)E[\max(S-K,0)]\ge\max(E[S]-K,0)→期权期望价值\ge标的期望价下的内在价值→波动率越高凸性收益越大→期权价越高。

统计与信息论

KL散度非负证DKL(PQ)0D_{KL}(P\|Q)\ge0→核步倚Jensen→用f(x)=logxf(x)=-\log x严格凸→DKL=plog(q/p)log(pq/p)=log1=0-D_{KL}=\sum p\log(q/p)\le\log(\sum p·q/p)=\log1=0吉布斯不等式

EM算法:含隐变量高斯混合)→直MLE难→Jensen构下界ELBO→log\log凹函数→logEq[p(x,z)/q(z)]Eq[logp(x,z)/q(z)]\log E_q[p(x,z)/q(z)]\ge E_q[\log p(x,z)/q(z)]→优化下界逼近最大似然。

记忆:方差法→f(x)=x2f(x)=x^2E[X2](E[X])2=Var(X)0E[X^2]-(E[X])^2=\mathrm{Var}(X)\ge0E[X2](E[X])2E[X^2]\ge(E[X])^2→验证凸函数期望函数值\ge函数期望值。核心:凸→"平均后函数值\le函数值平均后";凹→反向。