凹凸函数与詹森不等式

凸函数

课本是凸函数的定义：

设$\varphi$是定义在开区间$(a,b)$上的是函数，其中$-\infty{\le}a<b{\le}\infty$。如果对任意的$a<x<b,a<y<b$和$0{\le}{\lambda}{\le}1$，恒有不等式

$$ \varphi((1-{\lambda})x+{\lambda}y){\le}(1-{\lambda})\varphi(x)+{\lambda}\varphi(y) $$

则称$\varphi$为凸函数。

等价于

$$ \frac{\varphi(t)-\varphi(s)}{t-s}{\le}\frac{\varphi(u)-\varphi(t)}{u-t} $$

对$a<s<t<u<b$成立。

用微分中值定理与上式等价条件容易证明，$\varphi$在$(a,b)$上是凸函数，其充分必要条件是其二阶导数恒大于0。

凹函数

凹函数又称为上凸函数，实则是将凸函数形式改变一下：

设$\varphi$是定义在开区间$(a,b)$上的是函数，其中$-\infty{\le}a<b{\le}\infty$。如果对任意的$a<x<b,a<y<b$和$0{\le}{\lambda}{\le}1$，恒有不等式

$$ \varphi((1-{\lambda})x+{\lambda}y){\ge}(1-{\lambda})\varphi(x)+{\lambda}\varphi(y) $$

则称$\varphi$为凹函数。

等价于

$$ \frac{\varphi(t)-\varphi(s)}{t-s}{\ge}\frac{\varphi(u)-\varphi(t)}{u-t} $$

对$a<s<t<u<b$成立。

用微分中值定理与上式等价条件容易证明，$\varphi$在$(a,b)$上是凹函数，其充分必要条件是其二阶导数恒小于0。

詹森不等式

对于$\Omega$集合，$\mathfrak{M}$为$\Omega$上的$\sigma$代数，$\mu$为正测度，$\mu(\Omega)=1$。其一般形式：$f:\Omega{\to}R^1,f{\in}L^1(\mu)$，若$\varphi(x)$为$(a,b)$上凸函数，$x{\in}\Omega,a<f(x)<b$，则有

$$ \varphi(\int_{\Omega}fd{\mu}){\le}\int_{\Omega}(\varphi{\circ}f)d{\mu} $$

证明：令$t=\int_{\Omega}fd{\mu}$，则$a<t<b$（实际上，若$t=b$，则$\int_{\Omega}(b-f){\mu}=0,b=f=0,a.e.$于$\Omega$，而这个与$f(x)<b,{\forall}x{\in}\Omega$矛盾），于是$a<s<t<b$，令

$$ \beta=\sup_{a<s<t}\frac{\varphi(t)-\varphi(s)}{t-s},a<s<t,\beta{\ge}\frac{\varphi(t)-\varphi(s)}{t-s} $$

$$ \beta{\le}\frac{\varphi(v)-\varphi(t)}{v-t},t<v<b $$

两个式子可以推出

$$ \varphi(s){\ge}\varphi(t)+\beta(s-t){\quad}(a<s<b) $$

于是有令$s=f(x)$，因为$s{\in}(a,b)$

$$ \varphi(f(x))-\varphi(t)-\beta(f(x)-t){\ge}0{\quad}{\forall}x{\in}\Omega $$

由于$\varphi$连续，所以$\varphi{\circ}f$可测。

若$\varphi{\circ}f{\in}L^1{\mu}$，则

$$ \int_{\Omega}\varphi{\circ}fd{\mu}-\varphi(\int_{\Omega}fd{\mu})-\beta(\int_{\Omega}fd{\mu}-t){\ge}0 $$

因为$t=\int_{\Omega}fd{\mu}$，于是推出詹森不等式：

$$ \int_{\Omega}\varphi{\circ}fd{\mu}{\ge}\varphi(\int_{\Omega}fd{\mu}) $$

但是若$\varphi{\circ}f=\infty{\notin}L^1(\mu)$，则有$\varphi{\circ}f=(\varphi{\circ}f)^+-(\varphi{\circ}f)^-$。其中

$$ (\varphi{\circ}f)^-=-\min\left\{0,\varphi{\circ}f\right\} $$

定义一个$g(x)$为下述所示：

$$ \varphi(f(x)){\ge}\varphi(t)+\beta(f(x)-t):=g(x) $$

于是由$f{\in}L^1(\mu)$可以推出$g{\in}L^1(\mu)$，从而有

$$ (\varphi{\circ}f)^-=-\min\left\{0,\varphi{\circ}f\right\}{\le}-\min\left\{g,0\right\}=g^- $$

于是有

$$ \int_{\Omega}(\varphi{\circ}f)^-d{\mu}{\le}\int_{\Omega}g^-d{\mu}{\le}\int_{\Omega}|g|d{\mu}<\infty $$

而

$$ \int_{\Omega}(\varphi{\circ}f)^+d{\mu}=+\infty $$

也就是$\varphi{\circ}f{\in}L^1(\mu)$推出$\int_{\Omega}(\varphi{\circ}f)d{\mu}=+\infty$。

证毕。

对于凹函数的反向詹森不等式，仅需改变不等号反向，证明完全一致。