Penalty-based smoothness conditions in convex variational regularization

Bernd Hofmann; Stefan Kindermann; Peter Mathé

doi:10.1515/jiip-2018-0039

发布人：德古意特出版社 2019年3月8日

凸变分正则化中基于惩罚的光滑条件

伯恩德·霍夫曼 , 斯特凡·金德曼和彼得·马瑟

来自日志反问题与病态问题杂志

https://doi.org/10.1515/jiip-2018-0039

显示此出版物的有限预览：

摘要

研究了定义在Banach空间上的一般凸罚线性不适定问题的Tikhonov正则化。众所周知，误差分析需要平滑度假设。这里，这些假设是以不等式的形式给出的，只涉及沿着正则化参数和（未知）惩罚最小化解的无噪声极小器族。这些不等式分别控制了惩罚的缺陷，或者同样控制了整个Tikhonov泛函的缺陷。主要结果提供了Bregman距离的误差范围，该距离分为两个和：第一个平滑相关项不依赖于噪声水平，而第二个项包括噪声水平。这类似于Hilbert空间中标准二次Tikhonov正则化的情况。研究表明，最近研究的变分不等式暗示了此处所做假设的有效性。几个示例突出了特定应用中的结果。

关键词：变分正则化；凸惩罚；误差估计；收敛速度；平滑度条件；索引函数；线性不适定问题

MSC 2010年：47A52型；65J20型

资金来源：奥地利科学基金会

奖励标识/授予编号：电话：30157-N31

资金来源：德意志研究联合会

奖励标识/授予编号：HO 1454/12-1号

资金报表：第一作者的研究得到了德意志银行的支持Forschungsgemeinschaft（DFG-grant HO 1454/12-1）。支持第二作者的研究奥地利科学基金会（FWF）项目P 30157-N31。

A校对

让我们将噪声和精确残差定义为

第页αδ:=A类⁢x个αδ-年δ,第页α:=A类⁢x个α-年=A类⁢(x个α-x个†),Δ:=年δ-年.

请注意，所有数量第页α,第页αδ以及Δ属于希尔伯特空间H（H）.随后的分析将基于最优条件（回顾我们关于选择ξαδ∈∂⁡J型⁢(x个αδ)和ξα∈∂⁡J型⁢(x个α))

（A.1）〈A类⁢x个αδ-年δ,A类⁢w个〉+α⁢〈ξαδ,w个〉=0 为所有人⁢w个∈X（X）,

（A.2）〈A类⁢x个α-A类⁢x个†,A类⁢w个〉+α⁢〈ξα,w个〉=0 为所有人⁢w个∈X（X）.

特别是，优化条件会导致以下结果公式，依据

减法(A.1款)来自(A.2)使用w个=x个α-x个†,
使用(A.1款)带有w个=x个α-x个αδ,
使用(A.2款)带有w个=x个α-x个†,

分别为：

（A.3）〈ξα-ξαδ,x个†-x个α〉=-1α⁢〈第页αδ-第页α,第页α〉,

（A.4）-〈ξαδ,x个α-x个αδ〉=1α〈第页αδ,第页α-第页αδ-Δ)〉,

（A.5）-〈ξα,x个†-x个α〉=-1α⁢∥第页α∥2.

以下边界是证明定理的关键2.8.

引理A.1。

假设中2.3我们有

（A.6）B类ξα⁢(x个α；x个†)≤Ψ⁢(α)-12⁢α⁢∥第页α∥2,

B类ξαδ⁢(x个αδ；x个α)≤δ22⁢α-12⁢α⁢∥第页α∥2+1α⁢〈第页αδ,第页α〉.

证明。

使用最优性条件(A.5)，我们发现

B类ξα⁢(x个α；x个†)+12⁢α⁢∥第页α∥2=J型⁢(x个†)-J型⁢(x个α)-〈ξα,x个†-x个α〉+12⁢α⁢∥第页α∥2

=J型⁢(x个†)-J型⁢(x个α)-12⁢α⁢∥第页α∥2

=1α⁢(T型α⁢(x个†；年)-T型α⁢(x个α；年))≤Ψ⁢(α),

这证明了第一个断言。

为了证明第二个断言，我们使用了定义属于B类ξαδ⁢(x个αδ；x个α)和(A.4款)要查找

（A.7）B类ξαδ⁢(x个αδ；x个α)=J型⁢(x个α)-J型⁢(x个αδ)+1α⁢〈第页αδ,第页α-第页αδ-Δ〉.

的最小化性质x个α也会产生收益

J型⁢(x个α)-J型⁢(x个αδ)≤12⁢α⁢[∥A类⁢x个αδ-年∥2-∥A类⁢x个α-年∥2]=12⁢α⁢[∥第页αδ+Δ∥2-∥第页α∥2].

我们重写了

〈第页αδ,第页α-第页αδ-Δ〉=-∥第页αδ∥2+〈第页αδ,第页α-Δ〉.

使用此方法并将上述估算插入(答7)给予

B类ξαδ⁢(x个αδ；x个α)≤12⁢α⁢[∥第页αδ+Δ∥2-∥第页α∥2]-1α⁢∥第页αδ∥2+1α⁢〈第页αδ,第页α-Δ〉

=12⁢α⁢∥Δ∥2-12⁢α⁢∥第页α∥2-12⁢α⁢∥第页αδ∥2+1α⁢〈第页αδ,第页α〉

≤δ22⁢α-12⁢α⁢∥第页α∥2+1α⁢〈第页αδ,第页α〉,

完成了第二个断言和引理的证明。∎

我们现在可以在章节2.

命题证明2.4.

发件人(A.6)我们知道总之α>0,

∥A类⁢x个α-年∥22⁢α=∥第页α∥22⁢α≤Ψ⁢(α).

因此，假设2.3意味着

J型⁢(x个†)-J型⁢(x个α)=J型⁢(x个†)-J型⁢(x个α)-∥A类⁢x个α-年∥22⁢α+∥第页α∥22⁢α≤Ψ⁢(α)+∥第页α∥22⁢α≤2⁢Ψ⁢(α),

这就完成了证明。∎

命题证明2.6.

首先，如果inf公司x个∈X（X）⁡J型⁢(x个)=J型⁢(x个†)，然后

α⁢J型⁢(x个†)=T型α⁢(x个†；A类⁢x个†)≥T型α⁢(x个α；A类⁢x个†)≥α⁢J型⁢(x个α)≥α⁢J型⁢(x个†),

以及所有人α>0我们有J型⁢(x个α)=J型⁢(x个†)这使我们能够证明第一种（单数）情况下的断言。否则，假设存在指数函数Ψ，并且正则化参数序列递减(αk个)k个具有极限k个→∞⁡αk个=0极限条件

极限k个→∞⁡Ψ⁢(αk个)αk个=0

持有。因此，我们发现(2.5)那个极限k个→∞⁡1αk个⁢∥A类⁢x个αk个-年∥=0，使用年=A类⁢x个†.

由于最优条件(A.2)对于x个α，我们有

A类*⁢(A类⁢x个αk个-年)+αk个⁢ξαk个=0 对一些人来说⁢ξαk个∈∂⁡J型⁢(x个αk个)⊂X（X）*.

这就产生了

ξαk个=-1αk个⁢A类*⁢(A类⁢x个αk个-年).

自A类*:H（H）→X（X）*是一个有界线性算子，我们得到

∥ξαk个∥X（X）*≤1αk个⁢∥A类*∥ℒ⁢(H（H）,X（X）*)⁢∥A类⁢x个αk个-年∥→0 作为⁢k个→∞.

自ξαk个∈∂⁡J型⁢(x个αk个)在达到极限后，我们发现z（z）∈X（X）那个

J型⁢(z（z）)≥酸橙酱k个→∞⁡{J型⁢(x个αk个)+〈ξαk个,z（z）-x个αk个〉}=酸橙酱k个→∞⁡J型⁢(x个αk个)=J型⁢(x个†),

我们在其中使用了Assumption2.2和极限k个→∞⁡Ψ⁢(αk个)=0因此，我们得出结论：inf公司x个∈X（X）⁡J型⁢(x个)=J型⁢(x个†)这与假设相矛盾，因此函数Ψ不能降为零超线性α→0.∎

定理的证明2.8.

这里我们回顾一下三点身份（参见，例如[29]). 对于u个,v（v）,w个∈X（X）和ξ∈∂⁡J型⁢(w个),η∈∂⁡J型⁢(v（v）),我们有这个

B类ξ⁢(w个；u个)=B类η⁢(v（v）；u个)+B类ξ⁢(w个；v（v）)+〈η-ξ,u个-v（v）〉,

这说明了u个:=x个†,v（v）:=x个α、和w个:=x个αδ到

（A.8）B类ξαδ⁢(x个αδ；x个†)=B类ξα⁢(x个α；x个†)+B类ξαδ⁢(x个αδ；x个α)+〈ξα-ξαδ,x个†-x个α〉.

插入(答3)到(答8)给予

B类ξαδ⁢(x个αδ；x个†)=B类ξα⁢(x个α；x个†)+B类ξαδ⁢(x个αδ；x个α)-1α⁢〈第页αδ-第页α,第页α〉.

引理界的一个应用A.1款为我们提供了估计

B类ξαδ⁢(x个αδ；x个†)≤Ψ⁢(α)+δ22⁢α-1α⁢∥第页α∥2+1α⁢〈第页αδ,第页α〉-1α⁢〈第页αδ-第页α,第页α〉=Ψ⁢(α)+δ22⁢α,

证明是完整的。∎

B指标函数的一些凸分析

我们将提供凸指数函数的一些附加细节。首先，众所周知，对于凸指数函数（f）我们有那个0<秒≤t吨产量（f）⁢(秒)/秒≤（f）⁢(t吨)/t吨的确，我们让0<θ:=秒t吨≤1并获得

（f）⁢(秒)=（f）⁢(θ⁢t吨+(1-θ)⁢0)≤θ⁢（f）⁢(t吨)+(1-θ)⁢（f）⁢(0)=秒t吨⁢（f）⁢(t吨),

这使我们能够证明这个断言。这意味着限制克:=极限t吨→0⁡（f）⁢(t吨)/t吨≥0存在。如果克>0，然后（f）接近于零是线性的，并且这个案例在这项研究中并不有趣。否则，我们假设那个克=0在这个有趣的（亚线性）案例中，结果如下是相关的。

引理B.1。

假设（f）是一个凸指数函数。以下断言是等价的。

商（f）⁢(t吨)/t吨,t吨>0，严格来说是增加指数函数。
有一个严格递增的指数函数φ、和同伴Θ⁢(t吨):=t吨⁢φ⁢(t吨),t吨>0，因此代表（f）⁢(t吨)=Θ2⁢((φ2)-1⁢(t吨)),t吨>0，有效。

证明。

显然，如果（f）具有中的表示（ii），然后我们发现，让φ2⁢(秒)=t吨，那个

（f）⁢(t吨)t吨=Θ2⁢(秒)φ2⁢(秒)=秒↘0,

作为秒→0.

对于另一个含义，我们观察到通过假设我们可以（隐式）通过定义严格递增的指数函数φ

φ⁢(（f）⁢(t吨)t吨):=t吨,t吨>0.

这就产生了

（f）⁢(t吨)=t吨⁢(φ2)-1⁢(t吨)=Θ2⁢((φ2)-1⁢(t吨)),t吨>0,

这就完成了证明。∎

作为一个有趣的结果，我们提到了Fenchel共轭函数的以下结果（f）∗到凸（指数）函数（f）.

推论B.2。

假设（f）是一个凸指数函数，因此商（f）⁢(t吨)/t吨,t吨>0是一个严格递增的指数函数。然后是Fenchel共轭函数（f）∗是一个索引函数，并且有一个严格递增的指数函数φ那个

（f）∗⁢(t吨)t吨≤φ2⁢(t吨),t吨>0.

证明。

首先，通过引理B.1节有严格的增长指数函数φ，这样（f）⁢(t吨)=Θ2⁢((φ2)-1⁢(t吨)),t吨>0.现在我们使用“穷人的年轻不平等”的形式

φ2⁢(x个)⁢年≤φ2⁢(x个)⁢x个+φ2⁢(年)⁢年,x个,年>0,

从这些案例中可以很容易看出x个<年和年≤x个分别进行。反过来，通过让秒:=φ2⁢(x个)和t吨:=年，表示

秒⁢t吨≤Θ2⁢((φ2)-1⁢(秒))+Θ2⁢(t吨),秒,t吨>0.

对于Fenchel共轭（f）∗这个产量

（f）∗⁢(t吨):=啜饮秒>0⁡{秒⁢t吨-（f）⁢(秒)}≤Θ2⁢(t吨).

根据这个界限，我们得出结论：（f）∗将是一个索引函数其中的商（f）∗⁢(t吨)/t吨具有所需的界限。∎

鸣谢

我们感谢Peter Elbau（维也纳大学）和Jens Flemming（开姆尼茨大学）向我们建议了命题证明的基本成分2.6和3.2分别是。

工具书类

[1]V.Albani、P.Elbau、M.V.de Hoop和O.Scherzer，Hilbert空间中线性反问题的最优收敛速度，数字。功能。分析。最佳方案。37（2016），第5期，521-540。10.1080/01630563.2016.1144070在谷歌学者中搜索公共医学公共医学中心

[2]R.Andreev、P.Elbau、M.V.de Hoop、L.Qiu和O.Scherzer，Hilbert空间中线性反问题的广义收敛速度结果，数字。功能。分析。最佳方案。36（2015），第5期，549–566。10.1080/01630563.2015.1021422在谷歌学者中搜索

[3]S.W.Anzengruber、B.Hofmann和P.Mathé，Banach空间中Tikhonov正则化序列差分原理的正则化性质，申请。分析。93（2014），编号7，1382-1400。10.1080/0036811.2013.833326在谷歌学者中搜索

[4]M.Burger、J.Flemming和B.Hofmann，收敛速度ℓ1-如果稀疏性假设失败，则进行正则化，反问题29（2013），第2期，文章编号025013。10.1088/0266-5611/29/2/025013在谷歌学者中搜索

[5]M.Burger和S.Osher，凸变分正则化的收敛速度，反问题20（2004），第5期，1411-1421。10.1088/0266-5611/20/5/005在谷歌学者中搜索

[6]A.Chambolle、V.Caselles、D.Cremers、M.Novaga和T.Pock，介绍图像分析的总变差，稀疏恢复的理论基础和数值方法，氡序列。计算。申请。数学。9,Walter de Gruyter，柏林（2010），263–340。10.1515/9783110226157.263在谷歌学者中搜索

[7]H.W.Engl、M.Hanke和A.Neubauer，反问题的正则化，数学。申请。375,Kluwer学术，多德雷赫特，1996年。10.1007/978-94-009-1740-8在谷歌学者中搜索

[8]J.弗莱明，Banach空间中的广义Tikhonov正则化与现代收敛速度理论，亚琛Shaker，2012年。在谷歌学者中搜索

[9]J.弗莱明，不适定线性方程Tikhonov型凸正则化中Banach空间收敛速度的逆结果，J.反向病态问题。26（2018），第5期，639–646。10.1515/jiip-2017-0116在谷歌学者中搜索

[10]J.弗莱明，Banach空间非线性反问题变分源条件的存在性，J.逆病态概率。26（2018），第2期，277–286。10.1515/jiip-2017-0092在谷歌学者中搜索

[11]J.Flemming和D.Gerth，注入性和虚弱的*-到弱连续性足以满足ℓ1-正则化，J.反向病态问题。26（2018），第1期，85–94。10.1515/jiip-2017-0008在谷歌学者中搜索

[12]J.Flemming和B.Hofmann，用广义残差项正则化求解源条件的一种新方法，数字。功能。分析。最佳方案。31（2010），第1–3期，254–284页。10.1080/01630561003765721在谷歌学者中搜索

[13]J.Flemming、B.Hofmann和P.Mathé，使用距离函数的正则化误差的尖锐逆结果，反问题27（2011），第2期，文章编号025006。10.1088/0266-5611/27/2/025006在谷歌学者中搜索

[14]K.Frick、D.A.Lorenz和E.Resmerita，应用于线性反问题的增广拉格朗日方法的莫罗佐夫原理，多尺度模型。模拟。9（2011），第4期，1528–1548。10.1137/100812835在谷歌学者中搜索

[15]M.Grasmair，非凸正则化方法的广义Bregman距离和收敛速度，反问题26（2010），第11期，文章编号115014。10.1088/0266-5611/26/11/115014在谷歌学者中搜索

[16]B.Hofmann、B.Kaltenbacher、C.Pöschl和O.Scherzer，具有非光滑算子的Banach空间中Tikhonov正则化的收敛速度，反问题23（2007），第3期，987–1010。10.1088/0266-5611/23/3/009在谷歌学者中搜索

[17]B.霍夫曼和P.Mathé，一般线性正则化方法的剖面函数分析，SIAM J.数字。分析。45（2007），第31122–1141号。10.1137/060654530在谷歌学者中搜索

[18]B.霍夫曼和P.Mathé，变分不等式下Banach空间正则化的参数选择，逆向问题28（2012），文章ID 104006。10.1088/0266-5611/28/10/104006在谷歌学者中搜索

[19]T.Hohage和F.Weidling，变分源条件的特征、逆结果和谱正则化方法的最大值，SIAM J.数字。分析。55（2017），第2期，598–620。10.1137/16M1067445在谷歌学者中搜索

[20]伊藤（K.Ito）和金（B.Jin），反问题。Tikhonov理论与算法，序列号。申请。数学。22,世界科学，Hackensack 2015。10.1142/9120在谷歌学者中搜索

[21]S.Kindermann，Banach空间中的凸Tikhonov正则化：关于收敛速度的新结果，J.逆病态概率。24（2016），第3期，341-350。10.1515/jiip-2015-0038在谷歌学者中搜索

[22]P.Mathé和S.V.Pereverzev，可变希尔伯特尺度线性不适定问题的几何，反问题19（2003），第3期，789–803。10.1088/0266-5611/19/3/319在谷歌学者中搜索

[23]Y.Meyer，图像处理中的振荡模式和非线性演化方程，大学讲师。22,美国数学学会，普罗维登斯，2001年。10.1090/ulect/022在谷歌学者中搜索

[24]A.Neubauer、T.Hein、B.Hofmann、S.Kindermann和U.Tautenhahn，Banach空间中Tikhonov正则化增强收敛速度的改进和推广结果，申请。分析。89（2010），第11期，1729–1743。10.1080/00036810903517597在谷歌学者中搜索

[25]E.Resmerita公司，Banach空间中不适定问题的正则化：收敛速度，反问题21（2005），第4期，1303–1314。10.1088/0266-5611/21/4/007在谷歌学者中搜索

[26]E.Resmerita和O.Scherzer，非二次正则化的误差估计以及与增强的关系，反问题22（2006），第3期，801-814。10.1088/0266-5611/22/3/004在谷歌学者中搜索

[27]L.I.Rudin、S.Osher和E.Fatemi，基于非线性全变分的噪声去除算法，物理学。D 60（1992），编号1-4，259-268。2016年10月17日-2789（92）90242-F在谷歌学者中搜索

[28]O.Scherzer、M.Grasmair、H.Grossauer、M.Haltmeier和F.Lenzen，成像中的变分方法，申请。数学。科学。167,施普林格，纽约，2009年。在谷歌学者中搜索

[29]T.Schuster、B.Kaltenbacher、B.Hofmann和K.S.Kazimierski，Banach空间中的正则化方法，氡序列。计算。申请。数学。10,Walter de Gruyter，柏林，2012年。10.1515/9783110255720在谷歌学者中搜索

收到：2018-05-03

修订过的：2019-01-31

接受日期：2019-02-08

在线发布：2019-03-08

印刷出版：2019-04-01