×

非凸正则结构总最小二乘问题的交替半近似方法。 (英语) Zbl 1346.90676号

摘要:我们考虑了一类广泛的正则化结构化总最小二乘(RSTLS)问题,其中包括图像处理中的许多场景。这类问题导致了大维非凸且通常非光滑的模型。为了解决这类困难的问题,我们引入了一种新的算法,该算法通过有益地利用RSTLS中固有的数据信息和结构,将近似最小化方法和交替最小化方法相结合。所提出的算法也可以应用于更一般的问题,被证明可以全局收敛到临界点,并且适用于高效和简单的计算步骤。我们通过对大规模图像进行去模糊的数值实验来说明我们的理论发现,这证明了该方法的可行性和有效性。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
49纳米45 最优控制中的逆问题
65千5 数值数学规划方法
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] T.J.Abatzoglou、J.M.Mendel和G.A.Harada,《约束总最小二乘法及其在谐波超分辨中的应用》,IEEE Trans。信号处理。,39(1991),第1070-1087页·Zbl 0744.65031号
[2] H.Attouch和J.Bolt,{关于涉及分析特征的非光滑函数的近似算法的收敛性},数学。程序。,116(2009),第5-16页·Zbl 1165.90018号
[3] A.Beck,{关于凸规划交替极小化的收敛性及其在迭代重加权最小二乘和分解方案中的应用},SIAM J.Optim。,25(2015),第185-209页·Zbl 1358.90094号
[4] A.Beck和A.Ben-Tal,{关于总最小二乘问题的Tikhonov正则化解},SIAM J.Optim。,17(2006),第98-118页·Zbl 1112.65034号
[5] A.Beck、A.Ben-Tal和C.Kanzow,{图像去模糊正则化结构总最小二乘问题全局解的快速求法},SIAM J.矩阵分析。申请。,30(2008年),第419-443页·Zbl 1156.90429号
[6] A.Beck和M.Teboulle,{线性反问题的快速迭代收缩阈值算法},SIAM J.成像科学。,2(2009年),第183-202页·Zbl 1175.94009号
[7] A.Beck和M.Teboulle,{一种用于凸最小化和应用的快速对偶最近点梯度算法},Oper。Res.Lett.公司。,42(2014),第1-6页·Zbl 1408.90232号
[8] D.P.Bertsekas,《非线性规划》,第二版,雅典娜科学出版社,马萨诸塞州贝尔蒙特,1999年·Zbl 1015.90077号
[9] J.Bolte、P.L.Combettes和J.-C.Pesquet,{\it用于盲图像恢复的交替近端算法},《第17届IEEE国际图像处理会议论文集》,2010年,第1673-1676页。
[10] J.Bolt,A.Danilidis和A.Lewis,{it非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用},SIAM J.Optim。,17(2007),第1205-1223页·兹比尔1129.26012
[11] J.Bolte,A.Danilidis,O.Ley和L.Mazet,{\it ojasewicz不等式的刻画:次梯度流,talweg,凸性},Trans。阿默尔。数学。Soc.,362(2010),第3319-3363页·Zbl 1202.26026号
[12] J.Bolt、S.Sabach和M.Teboulle,{非凸和非光滑问题的近似交替线性化最小化},数学。程序。序列号。A、 146(2014),第459-494页·Zbl 1297.90125号
[13] S.Boyd、N.Parikh、E.Chu、B.Peleato和J.Eckstein,《通过交替方向乘数法进行分布式优化和统计学习》,Found。趋势马赫数。学习。,3(2011),第1-122页·Zbl 1229.90122号
[14] E.Chouzenoux、J.-C.Pesquet和A.Repetti,{它是块坐标可变度量正向支持算法},J.Global Optim。,(2016),\burlalthttp://dx.doi.org/10.1007/s10898-016-0405-9doi:10.1007/s10898-016-0405-9·Zbl 1351.90128号
[15] G.H.Golub、P.C.Hansen和D.P.O'Leary,《Tikhonov正则化和总最小二乘法》,SIAM J.矩阵分析。申请。,21(1999),第185-194页·Zbl 0945.65042号
[16] G.H.Golub和C.F.van Loan,《全最小二乘问题分析》,SIAM J.Numer。分析。,17(1980),第883-893页·Zbl 0468.65011号
[17] M.Grant和S.Boyd,{it CVX:规范凸编程的Matlab软件},v.2.0 beta,2013\burlhttp://cvxr.com/cvx。
[18] P.C.Hansen,{it正则化工具:用于分析和解决离散不适定问题的Matlab包},Numer。《算法》,6(1994),第1-35页·Zbl 0789.65029号
[19] P.C.Hansen、J.G.Nagy和D.P.O'Leary,《消除图像模糊:矩阵、光谱和滤波》,《算法基础》第3卷,工业和应用数学学会(SIAM),费城,2006年·Zbl 1112.68127号
[20] R.Hesse、D.R.Luke、S.Sabach和M.K.Tam,{近端非均匀块隐式显式方法及其在盲衍射成像中的应用},SIAM J.成像科学。,8(2015),第426-457页·Zbl 1320.90063号
[21] S.van Huffel和J.Vandewalle,{总最小二乘问题:计算方面和分析},应用前沿。数学。9,费城SIAM,1991年·Zbl 0789.62054号
[22] K.Kurdyka,{关于o-极小结构中可定义函数的梯度},《傅里叶研究年鉴》(格勒诺布尔),48(1998),第769-783页·Zbl 0934.32009
[23] P.Lemmerling和S.V.Huffel,{Hankel/Toeplitz矩阵的结构化全最小二乘问题分析},Numer。《算法》,27(2001),第89-114页·Zbl 0986.65040号
[24] S.Łojasewicz,《自然地理学》(Une propertiététopologique des sous ensembles analystiques réels),《游击队的Équations aux Dérivées Partielles》(巴黎,1962年),《国家科学研究中心条件》,巴黎,1963年,第87-89页·Zbl 0234.57007号
[25] I.Markovsky、S.V.Huffel和R.Pintelon,{区块Toeplitz/Hankel结构化总最小二乘},SIAM J.矩阵分析。申请。,26(2005),第1083-1099页·兹比尔1085.65035
[26] N.Mastronardi、P.Lemmerling和S.vanHuffel,{\it用于解决基本反褶积问题的快速结构化总最小二乘算法},SIAM J.矩阵分析。申请。,22(2000),第533-553页·Zbl 0973.65030号
[27] B.D.Moor,{结构化总最小二乘法和L2近似问题},线性代数应用。,188-189(1993),第163-205页·Zbl 0781.65028号
[28] B.D.Moor,{仿射结构矩阵的总最小二乘和噪声实现问题},IEEE Trans。《信号处理》,42(1994),第3104-3113页。
[29] J.J.Moreρ,{信赖域子问题的推广},Optim。方法软件。,2(1993年),第189-209页。
[30] J.J.Moreau,{\it Proximite®et dualite®dans un espace Hilbertien},公牛。社会数学。法国,93(1965),第273-299页·Zbl 0136.12101号
[31] N.Parikh和S.Boyd,{近似算法},发现。最佳趋势。,1(2014年),第127-239页。
[32] A.Pruessner和D.P.O'Leary,{使用正则化结构化总最小范数算法的盲反褶积},SIAM J.矩阵分析。申请。,24(2003),第1018-1037页·Zbl 1036.65036号
[33] A.Repetti、M.Q.Pham、L.Duval、E.Chouzenoux和J.-C.Pesquet,《出租车中的欧几里德:稀疏盲解卷积与平滑\({ℓ_1}/{ℓ_2} \)正则化},IEEE信号处理。莱特。,22(2015),第539-543页。
[34] R.T.Rockafellar,{凸分析},普林斯顿数学。序列号。28,普林斯顿大学出版社,新泽西州普林斯顿,1970年·Zbl 0193.18401号
[35] R.T.Rockafellar和R.J.-B.Wets,{变分分析},格兰德。数学。威斯。317,柏林斯普林格·弗拉格,1998年·Zbl 0888.49001号
[36] J.B.Rosen、H.Park和J.Glick,《结构化问题的总体最小范数公式和解决方案》,SIAM J.Matrix Anal。申请。,17(1996),第110-126页·Zbl 0843.65028号
[37] A.N.Tikhonov,{不正确公式化问题的解决和正则化方法},苏联。数学。道克。,5(1963年),第1035-1038页·Zbl 0141.11001号
[38] A.N.Tikhonov和V.Y.Arsenin,《病态问题的解决方案》,Scripta Ser。数学。,V.H.温斯顿父子公司,华盛顿特区;约翰·威利父子出版社,纽约,多伦多,伦敦,1977年(译自俄语;由F.John主编前言)·Zbl 0354.65028号
[39] P.Tseng,不可微最小化的块坐标下降方法的收敛性,J.Optim。理论应用。,109(2001),第475-494页·Zbl 1006.65062号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。