Haim1
Hahn-Banach(1)
哈恩-巴拿赫分析形式:指的是,定义在$E$上线性子空间的线性泛函,可以延拓到$E$上定义的线性泛函。
其定理形式如下:
首先有:
1,令$\rho:E{\to}\mathbb{R}$满足两个条件:
(1)$\rho({\lambda}x)={\lambda}\rho(x),{\forall}x{\in}E,{\forall}{\lambda}>0$(正齐次性)
(2)$\rho(x+y){\le}\rho(x)+\rho(y),{\forall}x,y{\in}E$(三角不等式)
2,令$G{\subset}E$为线性子空间,且令$g:G{\to}\mathbb{R}$为一个线性泛函,满足以下条件:
(3)$g(x){\le}\rho(x),{\forall}x{\in}G$。
上述两个告诉我们找到一个在$E$上的线性子空间的线性泛函$g$,并且受到$\rho(x)$的控制。于是该定理告诉我们:
存在一个定义在$E$上且为$g$的延拓的线性泛函$f$,也就是$f(x)=g(x),{\forall}x{\in}G$,且使得:
(4)$f(x){\le}\rho(x),{\forall}x{\in}G$。
也就是找到延拓在$E$上的线性泛函$f$,当然它也受到$\rho$的控制。
这样,我们就完全给出了哈恩-巴拿赫定理的分析形式。其证明需要用到佐恩引理,证明思路是通过定义序关系,并且直接根据佐恩引理找到极大元$f$,然后再证明这个泛函的定义域是$E$,这里用反证法,由于受到$\rho$的控制,可以得到与极大元矛盾的情况,从而实现证明。
对偶空间
针对对偶空间$E^*$,我们需要给出一定的描述,对偶空间为$E$上所有连续线性泛函所组成的空间,并且在其上定义范数:
$$ \|f\|_{E^*}=\sup_{\|x\|{\le}1\\x{\in}E}|f(x)|=\sup_{\|x\|{\le}1\\x{\in}E}f(x) $$
并且可以用$\left \langle f,x \right \rangle$来代替$f(x)$。
这里首先要区分出来$x{\in}E,f{\in}E^*,f(x){\in}\mathbb{R}$这三个不同的东西。
并且我们有这样的一个事实:
无论$E$是否为巴拿赫空间,$E^*$都是巴拿赫空间(证明的技巧是通过$\mathbb{R}$为巴拿赫空间进行过渡)
推论1.2
我们根据上面哈恩-巴拿赫分析定理与这个对偶空间的定义,则有这样的推论:
令$G{\subset}E$为一个线性子空间,若$g:G{\to}\mathbb{R}$为一个连续线性泛函,则存在$f{\in}E^*$为$g$的延拓,且使得
$$ \|f\|_{E^*}=\sup_{\|x\|{\le}1\\x{\in}G}|g(x)|=\|g\|_{E^*} $$
换句话说,就是不仅保持延拓,且其范数也在子空间$G$内保持相同。
其证明:仅需用到哈恩-巴拿赫分析定理,并且令$\rho(x)=\|g\|_{G^*}\|x\|$即可得到。
推论1.3
对于任何$x_0{\in}E$存在$f_0{\in}E^*$使得
$$ \|f_0\|=\|x_0\|且\left \langle f,x \right \rangle=\|x_0\|^2 $$
证明:应用推论1.2,令$G=R_{x_0}$且$g(tx_0)=t\|x_0\|^2$,故有$\|g\|_{G^*}=\|x_0\|$。
这个告诉我们可以找到泛函$f$,使得其内积为该元素的范数。
注:这里要告诉你$f_0$一般不唯一,只有当希尔伯特空间或者$L^p$空间才可以。
严格凸NVS
定义严格凸的赋范空间
$$ {\forall}t{\in}(0,1){\quad}\|tx+(1-t)y\|{\le}1 $$
其中对于${\forall}x,y$,有$\|x\|=\|y\|=1$且$x{\neq}y$。
推论1.4
对于${\forall}x{\in}E$,我们有
$$ \|x\|=\sup_{\|f\|{\le}1\\f{\in}E^*}|\left \langle f,x \right \rangle|=\max_{\|f\|{\le}1\\f{\in}E^*}|\left \langle f,x \right \rangle| $$
这个证明仅需证明反向,由推论1.3可构造一个特殊的泛函。
Hahn-Banach(2)
哈恩-巴拿赫几何形式:凸集的分离。
引出超平面的概念,以下的$E$均为赋范线性空间。
定义:仿射超平面$H$为$E$中的子集,其形式
$$ H=\left\{x{\in}E;f(x)=\alpha\right\} $$
其中$f$为线性泛函,且$\alpha{\in}\mathbb{R}$为一个给定常数,并且记$H=[f=\alpha]$,称$f=\alpha$为$H$的方程。
命题1.5
超平面$H=[f=\alpha]$是闭的,当且仅当$f$是连续的。
分离与凸
令$A,B$为$E$的俩子集。称超平面$H=[f=\alpha]$分离$A$和$B$,是指:
$f(x){\le}\alpha,{\forall}x{\in}A$且$f(x){\ge}\alpha,{\forall}x{\in}B$。
而称超平面$H=[f=\alpha]$严格分离$A$和$B$,是指:
存在某个$\varepsilon>0$,使得$f(x){\le}\alpha-\varepsilon,{\forall}x{\in}A$且$f(x){\ge}\alpha+\varepsilon,{\forall}x{\in}B$。
称子集$A{\subset}E$为凸的,是指:
若$tx+(1-t)y{\in}A,{\forall}x,y{\in}A,{\forall}t{\in}[0,1]$。
定理1.6
这就是哈恩-巴拿赫定理的第一几何形式,其表现为分离一个开集与其他集合:
令$A{\subset}E$且$B{\subset}E$为俩非空凸集使得$A{\cap}B=\varnothing$,假设其中一个是开的,则存在一个闭的超平面分离$A$和$B$。
其证明需要两个引理:
一个是引理1.2是找到一个在凸集上的闵可夫斯基泛函。
一个是引理1.3也就是弱化版的分离:分离凸集和一个点。
引理1.3
令$C{\subset}E$为一个非空开凸集,且令$x_0{\in}E,x_0{\in}E,x_0{\notin}C$,则存在$f{\in}E^*$,使得$f(x)<f(x_0),{\forall}x{\in}C$。
特别地,超平面$[f=f(x_0)]$分离$\left\{x_0\right\}$与$C$。
找到这个$f$是通过哈恩-巴拿赫的分析形式得到的,凸集正好取到一个闵可夫斯基泛函作为其上的$\rho$,之后考虑延拓即可。
而通过这俩引理容易证明定理1.6,自此我们可以分离开集与其互补的集合。
定理1.7
哈恩-巴拿赫定理的第二几何形式,其表现为分离一个闭集与一个紧集:
令$A{\subset}E$且$B{\subset}E$为俩非空凸子集,使得$A{\cap}B=\varnothing$。假设$A$是闭的且$B$是紧的,则存在一个闭的超平面严格分离$A$与$B$。
根据对偶条件来看,其实定理1.7的条件更强,他不仅要求一个闭集,还要求另一个是紧集。但是同样的其结论也很强,就是达到了严格分离!
证明方式其实与定理1.6的证明类似。
注意:如果不加假设,则在有限维总能做到用一个闭的超平面分离集合$A$与$B$。
推论1.8
令$F{\subset}E$为一个线性空间,使得$\overline{F}=E$,则存在某个$f{\in}E^*,f{\not\equiv}0$,使得
$$ {\forall}x{\in}F,\left \langle f,x \right \rangle=0 $$
也就是说,有一个$f$将$\overline{F}$与$\left\{x_0\right\}$严格分离(因为一个闭集一个紧集),然后可以证明这个事实:在这个线性子空间中,与某个$f$作用下的内积恒为0。
双对偶空间
首先给出双对偶空间$E^{**}$的具体情况:
首先令$E$为一个线性赋范空间,且令$E^*$为其对偶空间,装备范数
$$ \|f\|_{E^*}=\sup_{\|x\|{\le1}\\x{\in}E}|\left \langle f,x \right \rangle| $$
而双对偶空间$E^{**}$则为$E^*$的对偶空间,其装备范数
$$ \|{\xi}\|_{E^{**}}=\sup_{\|f\|{\le}1\\x{\in}E}|\left \langle \xi,x \right \rangle| $$
那我们不能从这个$E^*$出发得到$E^{**}$啊,于是我们得从$E$出发:
存在规范单射$J:E{\to}E^{**}$定义如下:
给定$x{\in}E$,映射$f{\mapsto}\left \langle f,x \right \rangle$为一个在$E^*$上的连续线性泛函,从双对偶空间的定义来看,这个$f$是$E^{**}$上的一个元素,于是就有了$Jx$的定义。即
$$ \left \langle Jx,f \right \rangle_{E^{**},E^*}=\left \langle f,x \right \rangle_{E^*,E}{\quad}{\forall}x{\in}E,{\forall}f{\in}E^* $$
显然$J$是线性映射,且为等距映射,即$\|Jx\|_{E^{**}}=\|x\|_{E}$。
而这些工作,目前到这里,就已经足够,除非你想要对下面的正交关系做出探讨:
为了方便我们描述正交关系,我们引入以下的记号:
若$M{\subset}E$为一个线性子空间,设$M^{\perp}=\left\{f{\in}E^*,\left \langle f,x \right \rangle=0,{\forall}x{\in}M\right\}$。所以我们知道$M^{\perp}$其实是由线性泛函组成的空间。
若$N{\subset}E^*$为一个线性子空间,设$N^{\perp}=\left\{x{\in}E;\left \langle f,x \right \rangle=0,{\forall}f{\in}N\right\}$。所以我们又知道$N^{\perp}$其实是由$E$中元素组成的空间。(这里限制到了$E$上而不是双对偶空间$E^{**}$上)
命题1.9
令$M{\subset}E$为一个线性子空间,则$(M^{\perp})^{\perp}=\overline{M}$。
令$N{\subset}E^*$为一个线性子空间,则$(N^{\perp})^{\perp}{\supset}\overline{N}$。
这个命题告诉我们这个重复取正交,对于原空间与对偶空间的结构有什么区别。
共轭凸函数
给出一些定义:
函数$\varphi$的上镜图指的是,集合
$$ epi{\;}\varphi=\left\{[x,{\lambda}]{\in}E{\times}\mathbb{R};\varphi(x){\le}{\lambda}\right\} $$
函数下半连续的指的是:对任意${\lambda}{\in}\mathbb{R}$,下面的集合是闭集
$$ [\varphi{\le}{\lambda}]=\left\{x{\in}E;\varphi(x){\le}{\lambda}\right\} $$
基本性质这里不加赘述。
凸函数的定义:这里的$E$为度量空间。
一个函数$\varphi:E{\to}(-\infty,+\infty]$是凸的,指的是:
$$ {\forall}x,y{\in}E,{\forall}t{\in}(0,1),\varphi(tx+(1-t)y){\le}t\varphi(x)+(1-t)\varphi(y) $$
其基本性质这里不加以赘述。
接下来的$E$为赋范线性空间,我们来定义共轭函数:
令$\varphi:E{\to}(-\infty,+\infty]$为一个函数,使得$\varphi{\not\equiv}+\infty$(也就是:$D(\varphi){\neq}\varnothing$)
定义共轭函数$\varphi^*:E^*{\to}(-\infty,+\infty]$为
$$ \varphi^*(f)=\sup_{x{\in}E}\left\{\left \langle f,x \right \rangle-\varphi(x)\right\},f{\in}E^* $$
有时候也称共轭函数$\varphi^*$为$\varphi$的勒让德变换。注意到$\varphi^*$实际上是在$E^*$上凸的且下半连续的。显然这个$\varphi^*$为$E^*$上的泛函,于是可以知道$\varphi^*{\in}E^{**}$,而$\varphi{\in}E^*$。
Young不等式
$$ \left \langle f,x \right \rangle{\le}\varphi(x)+\varphi^*(f),{\forall}x{\in}E,{\forall}f{\in}E^* $$
这个由共轭函数的定义可以直接得到。
命题1.10
假设$\varphi:E{\to}(-\infty,+\infty]$为凸的且为下半连续的,且$\varphi{\not\equiv}+\infty$。则有$\varphi^*{\not\equiv}+\infty$。
这个命题告诉我们,在凸及下半连续条件下,其共轭函数是有界的。
定理1.11
也就是所谓的Fenchel-Moreau定理:
假设$\varphi:E{\to}(-\infty,+\infty]$为凸的,且下半连续,且$\varphi{\not\equiv}+\infty$,则$\varphi^{**}=\varphi$。
这个告诉我们在凸的且下半连续条件下,两次对偶后可以回到自身。
定理1.12
也就是所谓的Fenchel-Rockafellar定理:
令$\varphi,\psi:E{\to}(-\infty,+\infty]$为俩凸函数,假设存在某个$x_0{\in}D(\varphi){\cap}D(\psi)$使得$\varphi$在$x_0$处连续,则
$$ \begin{align*}\inf_{x{\in}E}\left\{\varphi(x)+\psi(x)\right\}&=\sup_{f{\in}E^*}\left\{-\varphi^*(f)-\psi^*(f)\right\}\\&=\max_{f{\in}E^*}\left\{-\varphi^*(f)-\psi^*(f)\right\}\\&=-\min_{f{\in}E^*}\left\{\varphi^*(f)+\psi^*(f)\right\}\end{align*} $$
这个告诉我们,由两个凸函数的下确界,可以用其对应的共轭函数的极小值来刻画。
这个需要用到下面的引理来证明:
引理1.4
令$C{\subset}E$为一个凸集,则$Int{\;}C$为凸的。若$Int{\;}C{\neq}\varnothing$,则$\overline{C}=\overline{Int{\;}C}$。
这个也就是凸集的延续性质,与稠密性质。
总结
实际上本节主要学习了关于哈恩-巴拿赫定理的分析形式。(线性泛函的延拓)
哈恩-巴拿赫几何第一形式(分离开集与其他集合),哈恩-巴拿赫几何第二形式(严格分离闭集与紧集)
双对偶空间的刻画
对于正交关系,关于原空间与对偶空间的正交空间的结构问题。
凸函数,下半连续函数,共轭函数(勒让德变换),Young不等式。这一段主要描述了在特殊条件下,共轭函数的性质:有界性质,周期对偶,可以通过共轭函数刻画原函数的下确界。