×
王浩;张，范;史远明;胡耀华

基于自适应迭代重加权方法的非凸非光滑稀疏优化。 （英语） Zbl 1481.90267号

J.全球。最佳方案。 81，第3期，717-748（2021）。
摘要：我们提出了一个具有凸集约束的非凸和非光滑稀疏优化问题的一般公式，该公式可以考虑大多数现有类型的非凸稀疏诱导项，具有很强的适用性。我们设计了一个迭代重加权算法的通用算法框架，用于解决所提出的非凸非光滑稀疏优化问题，该框架通过自适应更新权重来解决一系列加权凸正则化问题。推导了一阶最优性条件，并在宽松的假设下给出了全局收敛结果，使我们的理论结果成为分析一系列不同加权算法的实用工具。在各种稀疏优化问题的数值实验中证明了我们提出的公式和算法的有效性和效率。

引用于2文件

MSC公司：

90C26型 非凸规划，全局优化

关键词：

非凸非光滑稀疏优化;迭代重加权方法

软件：

CVX公司
PDF格式BibTeX公司 XML格式引用
\textit{H.Wang}等人，J.Glob。最佳方案。81，编号3，717--748（2021；Zbl 1481.90267）
全文： 内政部 arXiv公司

参考文献：

[1] 巴·D。；巴巴迪，B。；普登，PL；Brown，EN，迭代加权最小二乘算法的收敛性和稳定性，IEEE Trans。信号处理。，62, 1, 183-195 (2014) ·Zbl 1394.94055号
[2] 巴赫，F。；Jenatton，R。；Mairal，J。；Obozinski，G.，《稀疏诱导惩罚的优化》。Foundations and Trends®，马赫。学习。，4, 1, 1-106 (2012) ·Zbl 06064248号
[3] 马萨诸塞州巴扎拉；古德，J。；MZ Nashed，《关于切线锥及其在数学规划中的应用》，J.Optim。理论应用。，13, 4, 389-426 (1974) ·兹比尔0259.90037
[4] 卞，W。；Chen，X.，带非凸正则化约束优化问题的最优性和复杂性，数学。操作。第42号、第4号、第1063-1084号决议（2017年）·兹比尔1386.90167
[5] 布莱德利，PS；Mangasarian，OL；威斯康星州街道，通过数学编程进行特征选择，INFORMS J.Compute。，10, 2, 209-217 (1998) ·Zbl 1034.90529号
[6] 伯克，合资公司；FE柯蒂斯；Wang，H。；Wang，J.，乘积集上精确惩罚子问题的迭代重加权线性最小二乘法，SIAM J.Optim。，25261-294（2015年）·Zbl 1356.49059号
[7] 坎迪斯，EJ；Wakin，MB，压缩采样简介，IEEE信号处理。Mag.，25，2，21-30（2008）
[8] 坎迪斯，EJ；Wakin，MB；Boyd，SP，通过加权1最小化增强稀疏性，J.Fourier Ana。申请。，14, 5-6, 877-905 (2008) ·Zbl 1176.94014号
[9] Chartrand，R.，Yin，W.：压缩传感的迭代重加权算法。摘自：声学、语音和信号处理，2008年。ICASSP 2008。IEEE国际会议，第3869-3872页。IEEE（2008年）
[10] 陈，X。；周伟，重加权l1最小化算法的收敛性和截断lp最小化的唯一解（2010），应用数学系：香港理工大学应用数学系
[11] Daubechies，I。；DeVore，R。；Fornasier，M。；Güntürk，CS，稀疏恢复的迭代重加权最小二乘最小化，Commun。纯应用程序。数学。，63, 1, 1-38 (2010) ·Zbl 1202.65046号
[12] 范，J。；Li，R.，《通过非一致惩罚似然进行变量选择及其预言属性》，美国统计协会，96，456，1348-1360（2001）·Zbl 1073.62547号
[13] Fazel，M.，Hindi，H.，Boyd，S.P.：用于矩阵秩最小化的对数集启发式算法，应用于hankel和euclidean距离矩阵。2003年美国控制会议。《2003年会议记录》，第3卷，第2156-2162页。IEEE（2003）
[14] Grant，M.、Boyd，S.、Ye，Y.：CVX:规范凸规划的Matlab软件（2008）。（网页和软件。）http://stanford.edu网站/boyd/cvx（2015）
[15] Harrell，F.E.：顺序逻辑回归。在：回归建模策略，第311-325页。斯普林格（2015）·Zbl 1330.62001
[16] 哈斯蒂，T。；蒂布希拉尼，R。；Wainwright，M.，《稀疏的统计学习：拉索和泛化》（2015），博卡拉顿：CRC出版社，博卡拉顿·Zbl 1319.68003号
[17] 荷兰，普华永道；Welsch，RE，使用迭代加权最小二乘的稳健回归，Commun。统计理论方法，6，9，813-827（1977）·Zbl 0376.62035号
[18] 胡，Y。；李，C。；Meng，K。；秦，J。；Yang，X.，通过（ell_{p，q}）正则化进行群稀疏优化，J.Mach。学习。Res.，189601-1011（2017年）·Zbl 1433.90202
[19] 马萨诸塞州Khajehnejad；Dimakis，AG；徐伟（Xu，W.）。；Hassibi，B.，最小扩展非负信号的稀疏恢复，IEEE Trans。信号处理。，59, 1, 196-208 (2011) ·Zbl 1392.94272号
[20] Kruger，A.Y.：（varepsilon）-半微分和（varepsilon）–正规元素。德邦。维尼蒂1331（1981）
[21] Kruger，AY，《关于fréchet次微分》，J.Math。科学。，116, 3, 3325-3358 (2003) ·Zbl 1039.49021号
[22] 赖，MJ；Wang，J.，欠定线性系统稀疏解的无约束（ell_q）极小化，SIAM J.Optim。，21, 1, 82-101 (2011) ·Zbl 1220.65051号
[23] Lanza，A.，Morigi，S.，Sgallari，F.：通过非凸正则化进行凸图像去噪。参加：计算机视觉中尺度空间和变分方法国际会议。施普林格，第666-677页（2015年）·Zbl 1444.94015号
[24] 凌，Q。；温，Z。；Yin，W.，《通过加权（ell_q）最小化的分散联合稀疏优化》，IEEE Trans。信号处理。，61, 5, 1165-1170 (2013) ·Zbl 1393.94338号
[25] 刘，L。；拉尔森，EG；于伟（Yu，W.）。；波波夫斯基，P。；斯特凡诺维奇，C。；de Carvalho，E.，《无授权大规模连接的稀疏信号处理：物联网中随机访问协议的未来范例》，IEEE signal Process。Mag.，35，588-99（2018）
[26] 洛博，理学硕士；法泽尔，M。；Boyd，S.，《具有线性和固定交易成本的投资组合优化》，Ann.Oper。Res.，152，1，341-365（2007）·Zbl 1132.91474号
[27] Lu，C.，Wei，Y.，Lin，Z.，Yan，S.：非凸稀疏优化的多重分裂近似迭代重加权算法。收录于：AAAI，第1251-1257页（2014年）
[28] Lu，Z.，正则化无约束非线性规划的迭代重加权极小化方法，数学。程序。，147，1-2277-307（2014）·Zbl 1308.90170号
[29] 卢，Z。；Zhang，Y。；Lu，J.，\（ell_p\）通过迭代重加权奇异值最小化正则化低阶近似，计算。最佳方案。申请。，68, 3, 619-642 (2017) ·Zbl 1388.90096号
[30] Malek-Mohammadi，M。；Babaie-Zadeh，M。；Skoglund，M.，用于恢复低秩矩阵的迭代凹秩近似，IEEE Trans。信号处理。，62, 20, 5213-5226 (2014) ·Zbl 1394.94364号
[31] CJ Miosso；von Borries，R。；Argaez，M。；Velázquez，L。；昆特罗，C。；Potes，C.，通过迭代加权最小二乘法利用先验信息进行压缩传感重建，IEEE Trans。信号处理。，57, 6, 2424-2431 (2009) ·Zbl 1391.94321号
[32] Ochs，P。；Dosovitskiy，A。；布罗克斯，T。；Pock，T.，《计算机视觉中非光滑非凸优化的迭代重加权算法》，SIAM J.Imaging Sci。，8, 1, 331-372 (2015) ·Zbl 1326.65078号
[33] JM奥尔特加；Rheinboldt，WC，多变量非线性方程的迭代解（1970），新德里：暹罗，新德里·Zbl 0241.65046号
[34] 秦，Z。；范，J。；刘，Y。；高，Y。；Li，GY，《无线通信的稀疏表示：压缩传感方法》，IEEE信号处理。Mag.，35，3，40-58（2018）
[35] Rockafellar，RT；Wets，RJB，变异分析（2009），纽约：Springer Science&Business Media，纽约·Zbl 0888.49001号
[36] Shi，Y。；Cheng，J。；张杰。；Bai，B。；Chen，W。；Letaief，KB，Smoothed\（l_p）-带用户许可控制的绿云最小化，IEEE J.Sel。公共区域。，34, 4, 1022-1036 (2016)
[37] Shi，Y。；张杰。；Chen，W。；Letaief，KB，超密集网络的广义稀疏和低秩优化，IEEE Commun。Mag.，56，6，42-48（2018）
[38] Shi，Y。；张杰。；Letaief，KB，用于绿色云的组稀疏波束形成，IEEE Trans。电线。社区。，13, 5, 2809-2823 (2014)
[39] JO街道；卡罗尔，RJ；Ruppert，D.，关于通过迭代加权最小二乘计算稳健回归估计的注释，《美国统计》，42，2，152-154（1988）
[40] MJ Wainwright，《高维问题的结构化正则化器：统计和计算问题》，年。修订状态申请。，1, 233-253 (2014)
[41] Wang，H。；Li，DH；张，XJ；Wu，L.，约束正则化的最优性条件，最优化，64，10，2183-2197（2015）·Zbl 1332.65079号
[42] 韦斯顿，J。；Elisseeff，A。；Schölkopf，B。；Tipping，M.，零形式与线性模型和核方法的使用，J.Mach。学习。第3号决议，1439-1461（2003）·Zbl 1102.68605号
[43] Zhang，CH，惩罚性线性无偏选择，统计与生物信息学系（2007），新泽西州：新泽西州罗格斯大学
[44] 赖，MJ；徐，YY；Yin，WT，无约束平滑最小化的改进迭代加权最小二乘法，SIAM J.Numer。分析。，51, 2, 927-957 (2013) ·Zbl 1268.49038号
[45] 刘，T。；Pong，TK公司；Takeda，A.，一类非凸非光滑优化问题的凸逼近逐次差分法，数学。程序。，176, 1, 339-367 (2019) ·Zbl 1415.90121号
[46] 曹，WF；Sun，J。；Xu，ZB，使用\（L_q（q=1/2，2/3）\）正则化的闭式阈值公式的快速图像去卷积，J.Vis。公社。图像表示。，24, 1, 31-41 (2013)
[47] Ahn，MJ；庞，JS；Xin，J.，《凸学习的差异：方向平稳性、最优性和稀疏性》，SIAM J.Optim。，27, 3, 1637-1665 (2017) ·Zbl 1369.90130号
[48] 曹，SS；霍，XM；Pang，JS，带凸差分（DC）的高维稀疏估计统一框架，正则化，1812，7130，31-41（2018）
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。