×
吴忠明;李敏;David Z.W.王。;韩德仁

可分离非凸极小化问题的对称交替方向乘子方法。 （英语） Zbl 1383.90028号

亚洲-太平洋。J.运营商。物件。 34，第6号，文章ID 1750030，27 p.（2017）。
摘要：本文提出了一种对称交替乘子法，用于最小化两个具有线性约束的非凸函数之和，该方法在算法框架中包含了经典的交替方向乘子法。基于强大的Kurdyka-Łojasiewicz性质，在关于惩罚参数和目标函数的一些假设下，我们证明了由该方法生成的每个有界序列全局收敛到与给定问题相关的增广拉格朗日函数的临界点。此外，我们还报告了求解（l_{1/2}）正则稀疏优化和非凸可行性问题的一些初步数值结果，以表明该方法的可行性和有效性。

引用于17文件

MSC公司：

90C26型 非凸规划，全局优化

关键词：

交替方向乘法器法;对称的;Kurdyka-Łojasiewicz地产;非凸优化;线性约束

软件：

iPiano公司;BADMM公司
PDF格式BibTeX公司 XML格式引用
\textit{Z.Wu}等人，亚洲太平洋。J.运营商。第34号决议，第6号，文章编号1750030，第27页（2017年；兹bl 1383.90028）
全文： 内政部

参考文献：

[1] Absil，PA，Mahony，R和Andrews，B（2005年）。分析成本函数下降法迭代的收敛性。SIAM优化杂志，16，531-547·兹比尔1092.90036
[2] Attouch，H和Bolte，J（2009年）。关于含有解析特征的非光滑函数的近似算法的收敛性。数学编程，116，5-16·Zbl 1165.90018号
[3] Attouch，H，Bolte，J，Redont，P和Soubeyran，A（2010年）。非凸问题的近似交替极小化和投影方法：基于Kurdyka-Łojasiewicz不等式的方法。运筹学数学，35438-457·Zbl 1214.65036号
[4] Attouch，H，Bolte，J和Svaiter，BF（2013）。半代数和驯服问题下降方法的收敛性：近似算法、前向背向分裂和正则化高斯-赛德尔方法。数学编程，13791-129·Zbl 1260.49048号
[5] 巴赫，F，杰纳顿，R，迈拉尔，J和奥博金斯基，G（2012）。具有稀疏诱导惩罚的优化。机器学习的基础和趋势，4，1-106·Zbl 06064248号
[6] Bolt，J，Danilidis，A和Lewis，A（2007）。非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用。SIAM优化杂志，17，1205-1223·Zbl 1129.26012号
[7] Bolt，J，Danilidis，A，Lewis，A和Mazet，L（2010年）。Łojasiewicz不等式的特征：次梯度流，talweg，凸性。美国数学学会学报，3623319-3363·Zbl 1202.26026号
[8] Bolt，J，Sabach，S和Teboule，M（2014）。非凸和非光滑问题的近似交替线性化最小化。数学编程，146，459-494·Zbl 1297.90125号
[9] Bot、RI、Csetnek、ER和Laszlo，SC（2016年）。用于最小化两个非凸函数之和的惯性前向后向算法。欧洲计算优化杂志，4，3-25·Zbl 1338.90311号
[10] Boyd，S，Parikh，N，Chu，E，Peleato，B和Eckstein，J（2011）。通过交替方向乘数法进行分布式优化和统计学习。机器学习的基础和趋势，3，1-122·Zbl 1229.90122号
[11] Chartrand，R和Staneva，V（2008年）。受限等距特性和非凸压缩传感。反问题，24，20-35·Zbl 1143.94004号
[12] Eckstein，J和Ferris，MC（1998）。单调仿射变分不等式的算子分裂方法，以及最优控制的并行应用。信息计算杂志，10218-235·Zbl 1034.90531号
[13] Gabay，D（1983年）。乘数法在变分不等式中的应用。《增广拉格朗日方法：在边值问题求解中的应用》，Fortin，M和Glowinski，R（eds.），15，299-331。阿姆斯特丹：荷兰北部·Zbl 0525.65045号
[14] Glowinski，R和Marroco，A（1975年）。在近似条件下，部分完成了“秩序”，以及“解决方案”，部分实现了“非利奈狄里克雷特问题”。法国自动化评论，Informatique et Recherche Opérationelle，9，41-76·兹比尔0368.65053
[15] 龚，P，张，CS，卢，ZS，黄，JZ和叶，JP（2013）。非凸正则优化问题的一种通用迭代收缩和阈值算法。机器学习国际会议，第37-45页。
[16] Gu，Y，B Jiang和DR Han（2015）。一种基于半近似的严格收缩Peaceman-Rachford分裂方法。arXiv预打印arXiv:1506.02221。
[17] Guo，K，Han，DR和Wu，TT（2017）。线性约束下最小化两个非凸函数和的交替方向法的收敛性。国际计算机数学杂志，941653-1669·Zbl 1375.90239号
[18] Han、DR和XM Yuan（2013）。非光滑凸优化问题Peaceman-Rachford分裂方法的收敛性分析。手稿。
[19] Han，DR和Yuan，XM（2013）。二次规划交替方向乘数法的局部线性收敛性。SIAM数值分析杂志，51，3446-3457·Zbl 1285.90033号
[20] He，BS和Yuan，XM（2012）。关于Douglas-Rachford交替方向法的O（1/n）收敛速度。SIAM数值分析杂志，50，700-709·Zbl 1245.90084号
[21] He，BS，Liu，H，Wang，ZR和Yuan，XM（2014）。凸规划的严格压缩Peaceman-Rachford分裂方法。SIAM优化期刊，241011-1040·Zbl 1327.90210号
[22] He，BS，Ma，F和Yuan，XM（2016）。具有较大步长的对称ADMM的收敛性研究。SIAM成像科学杂志，9，1467-1501·Zbl 1381.90066号
[23] Hong，MY，Luo，ZQ和Razaviyayn，M（2016）。一类非凸问题交替方向乘子法的收敛性分析。SIAM优化杂志，26，337-364·Zbl 1356.49061号
[24] Kurdyka，K（1998）。关于可在o-极小结构中定义的函数的梯度。《傅里叶学会年鉴》，48769-783·Zbl 0934.32009
[25] Li，GY和Pong，TK（2015）。非凸组合优化分裂方法的全局收敛性。SIAM优化杂志，252434-2460·Zbl 1330.90087号
[26] Li，GY和Pong，TK（2016）。非凸优化的Douglas-Rachford分裂及其在非凸可行性问题中的应用。数学编程，15，371-401·Zbl 1346.90584号
[27] Li，H和Lin，ZC（2015）。非凸规划的加速近似梯度法。《神经信息处理系统进展》，第379-387页。
[28] Lu，ZS（2014）。正则化无约束非线性规划的迭代重加权极小化方法。数学编程，147277-307·Zbl 1308.90170号
[29] Ochs，P，Chen，Y，Brox，T和Pock，T（2014）。iPiano：用于非凸优化的惯性近似算法。SIAM成像科学杂志，71388-1419·Zbl 1296.90094号
[30] Olshausen，BA（1996）。通过学习自然图像的稀疏代码，出现了简单的细胞感受野特性。《自然》，381，607-609。
[31] Tseng，P（1991）。分裂算法在凸规划和变分不等式分解中的应用。SIAM控制优化杂志，29，119-138·兹比尔0737.90048
[32] Wang、FH、ZB Xu和HK Xu（2014）。非凸组合问题带乘子的Bregman交替方向方法的收敛性。arXiv：1410.8625。
[33] Wang，Y，WT Yin和JS Zeng（2016）。非凸非光滑优化中ADMM的全局收敛性。https://arxiv.org/pdf/1511.06324.pdf。 ·Zbl 1462.65072号
[34] Xu，ZB，Chang，XY，Xu，FM和Zhang，H（2012）\（L_{1/2}）正则化：阈值表示理论和快速求解器。IEEE神经网络和学习系统汇刊，231013-1027。
[35] Yang，WH和Han，DR（2016）。一类凸优化问题交替方向乘子法的线性收敛性。SIAM数值分析杂志，54，625-640·Zbl 1342.90138号
[36] Yang，L，Pong，TK和Chen，XJ（2016）。非凸背景/前景提取的交替方向乘数法。《SIAM成像科学杂志》即将出版·Zbl 1364.90278号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。