×

线性涉及广义Moreau增强模型及其在整体凸性条件下的近似分裂算法。 (英语) Zbl 1435.90042号

摘要:对于向量的稀疏性或矩阵的低秩,直接离散测度的凸包络被广泛用作实际惩罚,以计算相应正则化最小二乘模型的全局最优解。主要受[C.-H.张《Ann.Stat.38》,第2期,第894–942页(2010年;Zbl 1183.62120号);一、塞莱斯尼克,IEEE传输。信号处理。65,第17期,4481–4494(2017;Zbl 1414.94545号);L.尹等,IEEE Trans。信号处理。67,第10期,2595–2607(2019年;Zbl 1458.90679号)]为了在正则化最小二乘模型中利用非凸惩罚而不损失其整体凸性,本文提出了线性相关的广义Moreau增强(LiGME)模型,作为非凸惩罚利用的统一扩展。该模型可以在不损失整体凸性的情况下接受多个非凸惩罚,因此适用于稀疏等级感知信号处理中更广泛的场景。在LiGME模型的一般整体凸性条件下,我们还提出了一种新的保证收敛到全局最优解的近端分裂型算法。在稀疏等级感知信号处理的典型示例中的数值实验证明了LiGME模型和所提出的近端分裂算法的有效性。

MSC公司:

90磅18英寸 运筹学中的通信网络
90C25型 凸面编程

软件:

取消锁定BoX
PDF格式BibTeX公司 XML格式引用

参考文献:

[1] Abe J、Yamagishi M和Yamada I 2019使用线性涉及的广义极小极大凹罚函数Proc进行凸边保留信号恢复。IEEE声学、语音和信号处理国际委员会第4918-22页
[2] Arthur A 1969用伪逆表示正定和非负定的条件SIAM J.Appl。数学17 434-40·Zbl 0265.15002号 ·数字对象标识代码:10.1137/0117041
[3] Bauschke H H和Combettes P L 2017 Hilbert空间中的凸分析和单调算子理论第二版(纽约:Springer)·Zbl 1359.26003号 ·doi:10.1007/978-3-319-48311-5
[4] Bayram I 2015惩罚函数源自单调映射IEEE信号处理。信函22 265-9·doi:10.1109/LSP.2014.2357681
[5] Bayram I 2016关于带弱凸惩罚的迭代收缩/阈值算法的收敛性IEEE Trans。信号处理64 1597-608·Zbl 1412.94018号 ·doi:10.1109/TSP.2015.2502551
[6] Beck A和Teboulle M 2010基于梯度的算法及其在信号恢复问题中的应用信号处理和通信中的凸优化D P Palomar和Y C Eldar(剑桥:剑桥大学出版社)第42-88页·Zbl 1211.90290号
[7] Ben-Israel A和Greville T N E 2003广义逆:理论与应用第2版(纽约:Springer)·Zbl 1026.15004号
[8] Bertero M和Boccacci P 1989成像逆问题导论(布里斯托尔:物理研究所)·Zbl 0718.65097号
[9] Blake A和Zisserman A 1987年视觉重建(马萨诸塞州剑桥:麻省理工学院出版社)·doi:10.7551/mitpress/7132.001.0001
[10] Boyd S和Vandenberghe L 2004凸优化(剑桥:剑桥大学出版社)·Zbl 1058.90049号 ·doi:10.1017/CBO9780511804441
[11] Byrne C L 2007应用迭代法(佛罗里达州博卡拉顿:CRC出版社)·doi:10.1201/b10651
[12] Candès E J、Romberg J K和Tao T 2006从不完整和不准确测量中恢复稳定信号Commun。纯应用程序。数学59 1207-23·邮编1098.94009 ·doi:10.1002/cpa.20124年
[13] Carlsson M 2018关于不移动全局极小值的非凸泛函的凸包络和正则化J.Optim。理论应用183 66-84·Zbl 1425.49013号 ·doi:10.1007/s10957-019-01541-8
[14] Chambolle A 2004总变异最小化算法及其应用J.数学。成像Vis.20 89-97·Zbl 1366.94048号 ·doi:10.1023/B:JMIV.0000011325.36760.1e
[15] Claerbout J和Muir F 1973擦除数据地球物理的稳健建模38 826-44·数字对象标识代码:10.1190/1.1440378
[16] Combettes P L和Pesquet J C 2008求解凸变分反问题的近似分解方法反问题24 065014·Zbl 1154.49025号 ·doi:10.1088/0266-5611/24/6/065014
[17] Combettes PL和Pesquet J C 2011信号处理中的近端分裂方法科学与工程中反问题的不动点算法ed H H Bauschke等人(纽约:施普林格)第185-212页·Zbl 1242.90160号 ·doi:10.1007/978-1-4419-9569-810
[18] Combettes P L和Pesquet J C 2012求解包含复合、lipschitzian和平行和型单调算子混合物的原始-对偶分裂算法集值变分分析。20 307-30·Zbl 1284.47043号 ·doi:10.1007/s11228-011-0191-y
[19] 组合P L和Wajs V R 2005通过近端前向-后向分裂多尺度模型进行信号恢复。模拟1168-200·Zbl 1179.94031号 ·数字对象标识代码:10.1137/050626090
[20] 组合P L和Yamada I 2015平均非扩张算子的组成和凸组合J.Math。分析。申请425 55-70·Zbl 1322.47051号 ·doi:10.1016/j.jmaa.2014.11.044
[21] Condat L 2013一种用于凸优化的原对偶分裂方法,涉及Lipschitzian、近似和线性组合项J.Optim。理论应用158 460-79·Zbl 1272.90110号 ·doi:10.1007/s10957-012-0245-9
[22] Daubechies I,Defrise M和Mol C D 2004具有稀疏约束Commun的线性反问题的迭代重演算法。纯应用程序。数学57 1413-57·Zbl 1077.65055号 ·doi:10.1002/cpa.20042
[23] Ding Y和Selesnick I 2015无失真小波去噪:非凸稀疏正则化,凸优化IEEE信号处理。信函22 1364-8·doi:10.1109/LSP.2015.2406314
[24] Donoho D L 2006压缩传感IEEE Trans。信息理论52 1289-306·兹比尔1288.94016 ·doi:10.1109/TIT.2006.871582
[25] Du H和Liu Y 2018 Minmax凹进全变分去噪信号图像视频处理12 1027-34·doi:10.1007/s11760-018-1248-2
[26] Ekeland I和Temam R 1999凸分析和变分问题(宾夕法尼亚州费城:SIAM)·Zbl 0939.49002号 ·doi:10.1137/1.9781611971088
[27] Elad M 2010稀疏和冗余表示(纽约:Springer)·Zbl 1211.94001号 ·doi:10.1007/978-1-4419-7011-4
[28] Fornasier M和Rauhut H 2008迭代阈值算法J.Appl。计算。哈蒙。分析25 187-208·兹比尔1149.65038 ·doi:10.1016/j.acha.2007.10.005
[29] Gandy S、Recht B和Yamada I 2011张量补全和通过凸优化恢复低阶张量逆问题27 025010·Zbl 1211.15036号 ·doi:10.1088/0266-5611/27/2/025010
[30] Golub G H、Hansen P C和O’Leary D P 1999 Tikhonov正则化和总最小二乘SIAM J.矩阵分析。申请21 185-94·兹伯利0945.65042 ·doi:10.1137/S089547979897326432
[31] Groetsch C W 1972关于分段的注释Mann迭代J.Math。分析。申请40 369-72·Zbl 0244.47042号 ·doi:10.1016/0022-247X(72)90056-X
[32] Groetsch C W 1993数学科学中的反问题(纽约:Springer)·Zbl 0779.45001号 ·数字对象标识代码:10.1007/978-3322-99202-4
[33] Hanke M和Hansen P C 1993大型问题的正则化方法。数学。指数3 253-315·Zbl 0805.65058号
[34] Hansen P C 1993年L曲线在离散病态问题正则化中的应用SIAM J.Sci。计算14 1487-503·Zbl 0789.65030号 ·doi:10.1137/0914086
[35] Horel A E 1962岭分析在回归问题化学中的应用。工程进度58 54-9
[36] Horel A E和Kennard R W 1970岭分析在回归问题中的应用技术计量学12 55-67·Zbl 0202.17205号 ·网址:10.1080/00401706.1970.10488634
[37] Horn R A和Johnson C R 2012矩阵分析(剑桥:剑桥大学出版社)·doi:10.1017/CBO9781139020411
[38] Kreyszig E 1989功能分析与应用简介(Wiley Classics Library)(纽约:Wiley)·Zbl 0706.46001号
[39] Lanza A、Morigi S、Selesnick I和Sgallari F 2017通过凸-非凸优化-最小化数值实现非凸-非光滑优化。数学136 343-81·Zbl 1368.65087号 ·doi:10.1007/s00211-016-0842-x
[40] Lanza A、Morigi S和Sgallari F 2016通过参数选择的非凸正则化对凸图像进行去噪J.Math。成像视力56 1-26·Zbl 1391.94088号 ·doi:10.1007/s10851-016-0655-7
[41] Malek-Mohammadi M、Rojas C R和Wahlberg B 2016在基于优化的均值滤波IEEE Trans中保持整体凸性的一类非凸惩罚。信号处理64 6650-64·兹比尔1414.94398 ·doi:10.1109/TSP.2016.2612179
[42] Möllenhoff T,Strekalovskiy E,Moeller M和Cremers D 2015半导体分裂的原-双混合梯度法SIAM J.成像科学8 827-57·Zbl 1328.68278号 ·doi:10.1137/140976601
[43] Nashed M Z(ed)1976广义逆及其应用(纽约:学术)·Zbl 0346.15001号
[44] Nashed MZ和Scherzer O(ed)2002反问题、图像分析和医学成像卷313(美国医学会普罗维登斯)·Zbl 1003.00013号 ·doi:10.1090/conm/313
[45] Nikolova M 1998通过最小化凸标准Proc估计二值图像。IEEE声学、语音和信号处理国际会议2第108-12页·doi:10.1109/ICIP.1998.723327
[46] Nikolova M 1999使用GNC方法进行Markovian重建IEEE Trans。图像处理。8 1204-20·数字对象标识代码:10.1109/83.784433
[47] Nikolova M 2011能量最小化方法成像数学方法手册O Scherzer(纽约:Springer)第138-86页·Zbl 1259.65103号 ·doi:10.1007/978-0-387-92920-05
[48] Ogura N和Yamada I 2002渐近收缩非扩张映射Numer不动点集上的非标准凸最小化。功能。分析。最佳23 113-37·Zbl 1178.90346号 ·doi:10.1081/NFA-120003674
[49] Ono S和Yamada I 2015带原始-对偶分裂IEEE Trans的分层凸优化。信号处理63 373-88·Zbl 1393.90086号 ·doi:10.1109/TSP.2014.2373318
[50] Pierra G 1976年《合成方法与优化算法》格勒诺布尔大学博士论文
[51] Pierra G 1984通过产品空间数学中的形式化分解。程序28 96-115·Zbl 0523.49022号 ·doi:10.1007/BF02612715
[52] Rockafellar R T 1970凸分析(新泽西州普林斯顿:普林斯顿大学出版社)·Zbl 0932.90001号 ·doi:10.1515/9781400873173
[53] Rockafellar R T 2009变分分析(纽约:施普林格)·Zbl 1178.26001号
[54] Rudin L I、Osher S和Fatemi E 1992非线性全变分噪声去除算法Physica D 60 259-68·Zbl 0780.49028号 ·doi:10.1016/0167-2789(92)90242-F
[55] Santosa F和Symes W 1986带限反射地震图线性反演SIAM J.Sci。计算7 1307-30·兹比尔0602.73113 ·数字对象标识代码:10.1137/0907087
[56] Selesnick I 2017通过凸分析稀疏正则化IEEE Trans。信号处理65 4481-94·Zbl 1414.94545号 ·doi:10.1109/TSP.2017.2711501
[57] Selesnick I和Farshchian M 2017通过不可分离正则化的稀疏信号近似IEEE Trans。信号处理65 2561-75·Zbl 1414.94546号 ·doi:10.1109/TSP.2017.2669904
[58] Soubies E,Blanc-Féraud L和Aubert G 2015最小二乘正则化问题的连续精确L0罚分(CEL0)SIAM J.Imaging Sci.8 1607-39·Zbl 1325.65086号 ·数字对象标识代码:10.1137/151003714
[59] Starck J L、Murtagh F和Fadili J 2015稀疏图像和信号处理:小波和相关几何多尺度分析(剑桥:剑桥大学出版社)·Zbl 1335.94003号 ·doi:10.1017/CBO9781316104514
[60] Taylor H、Bank S和McCoy J 1979年用l1范数地球物理进行反褶积44 39-52·数字对象标识代码:10.1190/1.1440921
[61] Theodoridis S 2015机器学习——贝叶斯和优化观点(纽约:学术版)
[62] Tibshirani R 1996通过lasso J.R.Stat.Soc.B 58 267-88回归收缩和选择·Zbl 0850.62538号 ·doi:10.1111/j.2517-6161.1996.tb02080.x
[63] Tikhonov A N 1963错误公式化问题的解决方案和苏联数学的正则化方法。Dokl.4 1035-8号·Zbl 0141.11001号
[64] Tikhonov A N和Arsenin V Y 1977《病态问题的解决方案》(纽约:温斯顿)·Zbl 0354.65028号
[65] VũB C 2013涉及协同算子Adv.Comput的对偶单调包含的分裂算法。数学38 667-81·Zbl 1284.47045号 ·doi:10.1007/s10444-011-9254-8
[66] Yamada I和Yamagishi M 2019使用最近分裂技术对凸函数和非凸函数进行全局优化连续优化国际会议
[67] Yamada I和Yamagishi M 2019使用混合最速下降法和近端分裂算子进行分层凸优化-增强SVM、Lasso分裂算法、现代算子理论和应用ed H H Bauschke等人(纽约:Springer)第413-89页
[68] Yamada I、Yukawa M和Yamagishi M 2011最小化某些拟单扩张映射不动点集上非光滑凸函数的Moreau包络科学与工程反问题的定点算法·Zbl 1263.47088号 ·doi:10.1007/978-1-4419-9569-817
[69] Yamagishi M和Yamada I 2017分层凸优化逆问题线性化增广拉格朗日算子的非扩展性33 35·Zbl 1453.65138号 ·doi:10.1088/1361-6420/33/4/044003
[70] Yin L,Parekh A和Selesnick I 2019通过凸分析实现的稳定主成分追求IEEE Trans。信号处理67 2595-607·Zbl 1458.90679号 ·doi:10.1109/TSP.2019.2907264
[71] Zhang C H 2010极小极大凹罚下的近似无偏变量选择Ann.Stat.38 894-942·Zbl 1183.62120号 ·doi:10.1214/09-AOS729
[72] Zhong D,Yi C,Xiao H,Zhang H,Wu A 2018基于凸优化改进稀疏正则化的滚动轴承故障诊断新方法复杂性2018 10·doi:10.1155/2018/2169364
此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配,并且可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。