知经百科 / J

Jensen不等式

Jensen不等式 (Jensen's Inequality)

Jensen不等式→分析数学/概率论/统计基础定理→描凸函数期望运算:f(E[X])≤E[f(X)]f(E[X])\le E[f(X)]→凹函数反向。经济(风险/效用/微观)/金融(资产定价)/信息论/ML(EM算法)广泛应用。丹麦J.Jensen名。

凸凹函数与形式

凸函数:∀x1,x2,λ∈[0,1]\forall x_1,x_2,\lambda\in[0,1]→f(λx1+(1−λ)x2)≤λf(x1)+(1−λ)f(x2)f(\lambda x_1+(1-\lambda)x_2)\le\lambda f(x_1)+(1-\lambda)f(x_2)→割线在图像上方→二阶可微等价f′′(x)≥0f''(x)\ge0(海森矩阵非负)。常见凸:x2,ex,−log⁡xx^2,e^x,-\log x。凹函数:−f-f凸→不等式反向→常见凹:log⁡x,x\log x,\sqrt{x}→经济效用函数常凹→边际效用递减。

离散形式:非负权重λi\lambda_i(∑λi=1\sum\lambda_i=1)→f(∑λixi)≤∑λif(xi)f(\sum\lambda_i x_i)\le\sum\lambda_i f(x_i)。概率形式:f(E[X])≤E[f(X)]f(E[X])\le E[f(X)]→连续f(∫xpdx)≤∫f(x)pdxf(\int xpdx)\le\int f(x)pdx。

经济金融应用

期望效用理论:冯诺依曼-摩根斯坦框架→风险厌恶对应凹效用(u′′<0u''<0)→E[u(W)]<u(E[W])E[u(W)]<u(E[W])→不确定财富期望效用<确定等额效用→愿付风险溢价消不确定性→保险市场存在根因。

资产定价/期权:看涨价值V(S)=max⁡(S−K,0)V(S)=\max(S-K,0)是标的S的凸函数→E[max⁡(S−K,0)]≥max⁡(E[S]−K,0)E[\max(S-K,0)]\ge\max(E[S]-K,0)→期权期望价值≥\ge标的期望价下的内在价值→波动率越高凸性收益越大→期权价越高。

统计与信息论

KL散度非负证:DKL(P∥Q)≥0D_{KL}(P\|Q)\ge0→核步倚Jensen→用f(x)=−log⁡xf(x)=-\log x严格凸→−DKL=∑plog⁡(q/p)≤log⁡(∑p⋅q/p)=log⁡1=0-D_{KL}=\sum p\log(q/p)\le\log(\sum p·q/p)=\log1=0→吉布斯不等式。

EM算法:含隐变量(高斯混合)→直MLE难→Jensen构下界ELBO→log⁡\log凹函数→log⁡Eq[p(x,z)/q(z)]≥Eq[log⁡p(x,z)/q(z)]\log E_q[p(x,z)/q(z)]\ge E_q[\log p(x,z)/q(z)]→优化下界逼近最大似然。

记忆:方差法→f(x)=x2f(x)=x^2→E[X2]−(E[X])2=Var(X)≥0E[X^2]-(E[X])^2=\mathrm{Var}(X)\ge0→E[X2]≥(E[X])2E[X^2]\ge(E[X])^2→验证凸函数期望函数值≥\ge函数期望值。核心:凸→"平均后函数值≤\le函数值平均后";凹→反向。

返回百科索引