皮埃尔·弗兰克尔;纪尧姆·加里戈斯;胡安·佩皮奎特 Kurdyka-Łojasewicz函数的变度量分裂方法和一般收敛速度。 （英语） Zbl 1316.49039号 J.优化。理论应用。 165，第3期，874-900（2015）. 摘要：我们研究了一般下降法在Hilbert空间中应用于满足Kurdyka-Łojasiewicz不等式的下半连续非凸函数时的收敛性。我们证明了任何预紧序列都收敛到函数的一个临界点，并获得了值和迭代的新的收敛速度。该分析涵盖了具有可变度量和相对误差的前后向方法的交替版本。作为示例，详细介绍了Levenberg-Marquardt算法的非光滑和非凸版本。 引用于81文件 MSC公司： 49立方米 基于非线性规划的数值方法 49英里15 牛顿型方法 90C26型 非凸规划，全局优化 90立方 非线性规划 65K10码 数值优化和变分技术 关键词：非凸非光滑优化;Kurdyka-Łojasiewicz不等式;下降法;收敛速度;可变公制;高斯-赛德尔方法;类牛顿法 软件：iPiano公司 PDF格式BibTeX公司 XML格式引用 \textit{P.Frankel}等人，J.Optim。理论应用。165，第3号，874--900（2015；Zbl 1316.49039） 全文： 内政部 arXiv公司 参考文献： [1] Łojasiewicz，S.：Une propriété拓扑des sous-ensemples analytiques réels。收录于：《部分河流方程式》，第87-89页。巴黎国家科学研究中心（1963年）·Zbl 0234.57007号 [2] Kurdyka，K.：关于可在o-极小结构中定义的函数的梯度。《傅里叶年鉴》48，769-783（1998）·Zbl 0934.32009 ·doi:10.5802/aif.1638 [3] Łojasiewicz，S.：Sur la géométrie semi-et sous-analizique。《傅立叶学会年鉴》第43卷，1575-1595页（1993年）·兹比尔0803.32002 ·doi:10.5802/如果1384 [4] Kurdyka，K.，Parusianski，A.：\[\mathbf{w} _（f）\]子分析函数的wf分层和Łojasewicz不等式。C.R.学院。巴黎318129-133（1994）·Zbl 0799.32007号 [5] Bolt，J.，Danilidis，A.，Lewis，A.：非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用。SIAM J.Optim公司。17, 1205-1223 (2006) ·Zbl 1129.26012号 ·doi:10.1137/050644641 [6] Simon，L.：一类非线性发展方程的渐近性，及其在几何问题中的应用。安。数学。118, 525-571 (1983) ·Zbl 0549.35071号 ·doi:10.2307/2006981 [7] Huang，S.-Z.，Takáć，P.：渐近自治和解析的类梯度系统中的收敛性。非线性分析。序列号。《理论方法》46，675-698（2001）·Zbl 1002.35022号 ·doi:10.1016/S0362-546X（00）00145-0 [8] Chill，R.，Jendoubi，M.A.：渐近自治半线性演化方程中的稳态收敛。非线性分析。53, 1017-1039 (2003) ·Zbl 1033.34066号 ·doi:10.1016/S0362-546X（03）00037-3 [9] Haraux，A.，Jendoubi，M.A.：具有解析非线性的二阶类梯度系统解的收敛性。J.差异。埃克。144(2), 313-320 (1998) ·Zbl 0915.34060号 ·doi:10.1006/jdeq.1997.3393 [10] Haraux，A.：Simon收敛定理的双曲线变体。进化方程及其在物理和生命科学中的应用（Bad Herrenalb，1998）。纯数学和应用数学课堂讲稿。Dekker，纽约（2001） [11] Baudoin，L.，Salomon，J.：薛定谔方程双线性最优控制问题的构造性解。系统。控制信函。57(6), 453-464 (2008) ·Zbl 1153.49023号 ·doi:10.1016/j.sysconle.2007.11.002 [12] Absil，P.-A.，Mahony，R.，Andrews，B.：分析成本函数下降法迭代的收敛性。SIAM J.Optim公司。16, 531-547 (2005) ·Zbl 1092.90036号 ·数字对象标识代码：10.1137/040605266 [13] Attouch，H.，Bolt，J.：关于涉及分析特征的非光滑函数的近似算法的收敛性。数学。程序。序列号。B 116，5-16（2009）·Zbl 1165.90018号 ·文件编号：10.1007/s10107-007-0133-5 [14] Bolt，J.，Danilidis，A.，Ley，O.，Mazet，L.：Łojasiewicz不等式的特征：次梯度流，talweg，凸性。事务处理。美国数学。Soc.3623319-3363（2010年）·Zbl 1202.26026号 ·doi:10.1090/S0002-9947-09-05048-X [15] Merlet，B.，Pierre，M.：向后Euler格式和应用的收敛到平衡。Commun公司。纯应用程序。分析9，685-702（2010）·兹比尔1215.65132 ·doi:10.3934/cpaa.2010.9.685 [16] Noll，D.：使用Kurdyka-Lojasiewicz不等式的非光滑下降方法的收敛性。J.优化。理论应用。160553-572（2014）·Zbl 1298.90079号 ·doi:10.1007/s10957-013-0391-8 [17] Attouch，H.，Bolt，J.，Svaiter，B.F.：半代数和驯化问题下降方法的收敛性：近似算法，前向-后向分裂和正则高斯-赛德尔方法。数学。程序。137(1-2), 91-129 (2013) ·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9 [18] Chouzenoux，E.，Pesquet，J.C.，Repetti，A.：最小化可微函数和凸函数之和的可变度量前向支持算法。J.优化。理论应用。（待发）（2013年）·Zbl 1318.90058号 [19] Attouch，H.，Bolt，J.，Redont，P.，Soubeyran，A.：非凸问题的近似交替最小化和投影方法。基于Kurdyka-Łojasiewicz不等式的方法。数学。操作。第35（2）号决议，438-457（2010年）·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449 [20] Xu，Y.，Yin，W.：正则化多凸优化的块坐标下降法，应用于非负张量分解和完成。SIAM J.成像科学。6(3), 1758-1789 (2013) ·Zbl 1280.49042号 ·数字对象标识代码：10.1137/120887795 [21] Bolt，J.，Sabach，S.，Teboulle，M.：非凸和非光滑问题的近似交替线性化最小化。数学。程序。15, 1-36 (2013) [22] Chouzenoux，E.，Pesquet，J.C.，Repetti，A.：块坐标可变度量正向算法（2014）。http://www.optimization-online.org/DB_HTML/2013/12/4178.HTML ·Zbl 1351.90128号 [23] Li，D.，Pang，L.P.，Chen，S.：非凸优化问题的近似交替线性化方法。最佳方案。方法软件。29(4), 646-657 (2014) ·Zbl 1298.90070号 ·doi:10.1080/10556788.2013.854358 [24] Bolt，J.，Danilidis，A.，Lewis，A.，Shiota，M.：分层函数的Clarke次梯度。SIAM J.Optim公司。18(2), 556-572 (2007) ·Zbl 1142.49006号 ·doi:10.1137/060670080 [25] van den Dries，L.：缓和拓扑和o-极小结构。牛市。AMS 37（3），351-357（2000）·doi:10.1090/S0273-0979-00-00866-1 [26] van den Dries，L.，Miller，C.：几何范畴和o-最小结构。杜克大学数学。J.84，497-540（1996）·Zbl 0889.03025号 ·doi:10.1215/S0012-7094-96-08416-1 [27] Haraux，A.，Jendoubi，M.A.：无限维Hilbert空间框架中的Łojasewicz梯度不等式。J.Funct。分析。260（9），2826-2842（2010）·Zbl 1222.47089号 ·doi:10.1016/j.jfa.2011.01.012 [28] Chill，R.:Hilbert空间中的Łojasewicz-Simon梯度不等式。收录：Jendoubi，M.A.（编辑）第五届欧洲-马格里布半群理论、发展方程和应用研讨会论文集，第25-36页（2006年）·Zbl 0741.90051号 [29] Attouch，H.，Buttazo，G.，Michaille，G.：Sobolev和[BV\]BV空间中的变分分析。MPS-SIAM优化系列。施普林格，纽约（2008） [30] Bertsekas，D.：非线性规划。雅典娜科学，贝尔蒙特（1999）·Zbl 1015.90077号 [31] Rockafellar，R.T.：单调算子和近点算法。SIAM J.控制优化。14(5), 877-898 (1976) ·Zbl 0358.90053号 ·数字对象标识代码：10.1137/0314056 [32] Ferris，M.：近点算法的有限终止。数学。程序。50, 359-366 (1991) ·Zbl 0741.90051号 ·doi:10.1007/BF01594944 [33] Peypouquet，J.：在凸极小化中，渐近收敛到对角近似迭代的最佳值。J.凸分析。16(1), 277-286 (2009) ·Zbl 1166.49015号 [34] Chill，R.，Fiorenza，A.：拟线性抛物方程有界解的收敛性和平衡衰减率。J.差异。埃克。228, 611-632 (2006) ·Zbl 1115.35021号 ·doi:10.1016/j.jd.2006.02.009 [35] Cauchy，A.-L.：同时计算系统方程的方法。C.R.学院。科学。巴黎25536-538（1847） [36] Martinet，B.：方程的正则化变量内尔近似级数。Française Informat牧师。Recherche Opérationnelle 4，Sér。R-3，154-158（1970）·兹伯利0215.21103 [37] Brézis，H.，Lions，P.-L.：解决问题的不速之客。以色列J.数学。29(4), 329-345 (1978) ·Zbl 0387.47038号 ·doi:10.1007/BF02761171 [38] Lions，P.L.，Mercier，B.：两个非线性算子之和的分裂算法。SIAM J.数字。分析。16, 964-979 (1979) ·兹比尔0426.65050 ·doi:10.1137/0716071 [39] Passty，G.：Hilbert空间中单调算子和的遍历收敛到零。数学杂志。分析。申请。72(2), 383-390 (1979) ·Zbl 0428.47039号 ·doi:10.1016/0022-247X（79）90234-8 [40] Alvarez，F.，Bolt，J.，Brahic，O.：凸规划中的Hessian-Riemannian梯度流。SIAM J.控制优化。43（2），477-501（2004）·兹比尔1077.34050 ·doi:10.1137/S0363012902419977 [41] Alvarez，F.，López，J.，Ramírez，H.：二阶锥规划的可变度量的内部近似算法：在结构优化和支持向量机中的应用。最佳方案。方法软件。25（4-6），859-881（2010）·Zbl 1226.90041号 ·doi:10.1080/10556780903483356 [42] Attouch，H.，Svaiter，B.F.：求解单调包含的连续动力学类牛顿方法。SIAM J.Optim公司。49(2), 574-598 (2011) ·Zbl 1229.34097号 ·数字对象标识代码：10.1137/100784114 [43] Sra，S.、Nowozin，S.和Wright，S.J.：机器学习的优化。麻省理工学院出版社，剑桥（2011） [44] Gafni，E.M.，Bertsekas，D.P.：约束优化的两种度量投影方法。SIAM J.控制优化。22(6), 936-964 (1984) ·Zbl 0555.90086号 ·doi:10.1137/0322061 [45] Bertsekas，D.P.：简单约束优化问题的投影牛顿方法。SIAM J.控制优化。20(2), 221-246 (1982) ·Zbl 0507.49018号 ·doi:10.1137/0320018 [46] Lewis，A.S.，Luke，D.R.，Malick，J.：交替和平均非凸投影的局部线性收敛。已找到。计算。数学。9(4), 485-513 (2009) ·Zbl 1169.49030号 ·doi:10.1007/s10208-008-9036-y [47] Donoho，D.L.：对于大多数大型欠定线性方程组，最小值\[\ell^1\]ℓ1-范数解也是最稀疏解。Commun公司。纯应用程序。数学。6, 59, 797-829 (2006) ·Zbl 1113.15004号 ·doi:10.1002/cpa.20132年 [48] Donoho，D.L.，Tanner，J.：计算随机投影超立方体和正整数的面，及其应用。谨慎。计算。地理。43, 522-541 (2010) ·Zbl 1191.52004号 ·doi:10.1007/s00454-009-9221-z [49] Daubechies，I.，Defrise，M.，De-Mol，C.：具有稀疏约束的线性反问题的迭代阈值算法。Commun公司。纯应用程序。数学。57(11), 1413-1457 (2004) ·Zbl 1077.65055号 ·doi:10.1002/cpa.20042 [50] Chandrasekaran，V.，Sanghavi，S.，Parillo，P.A.，Willsky，A.S.：矩阵分解的秩party不相干。SIAM J.Optim公司。21(2), 572-596 (2011) ·Zbl 1226.90067号 ·数字对象标识代码：10.1137/090761793 [51] Ganesh，A.，Lin，Z.，Wright，J.，Wu，L.，Chen，M.，Ma，Y.：恢复损坏的低秩矩阵的快速算法。在：第三届IEEE多传感器自适应处理计算进展国际研讨会论文集，第213-216页（2009）·兹比尔1153.49023 [52] Yuan，X.，Yang，J.：交替方向法的稀疏低阶矩阵分解。派克靴。J.优化。9(1), 167-180 (2013) ·兹比尔1269.90061 [53] Recht，B.，Fazel，B.，Parillo，P.A.：通过核范数最小化保证线性矩阵方程的最小秩解。SIAM版本52，471-501（2007）·Zbl 1198.90321号 ·数字对象标识代码：10.1137/070697835 [54] Nesterov，Y.E.：一种求解收敛速度为\[O（1/k^21\]/k2）的凸规划问题的方法。多克。阿卡德。诺克SSSR 269、543-547（1983） [55] Beck，A.，Teboulle，M.：线性反问题的快速迭代收缩阈值算法。SIAM J.成像科学。2, 183-202 (2009) ·Zbl 1175.94009号 ·doi:10.1137/080716542 [56] 贝克，A。；特布尔，M。；Palomar，D.（编辑）；Eldar，Y.（编辑），基于梯度的算法及其在信号恢复问题中的应用，33-88（2010），剑桥 [57] Ochs，P.，Chen，Y.，Brox，T.:Pock，T.:iPiano：非凸优化的惯性近似算法（2014）。http://lmb.informatik.uni-freiburg.de/Publications/2014/OB14/ ·Zbl 1296.90094号 [58] Casas，E.，Herzog，R.，Wachsmuth，G.：用分段线性函数逼近半线性方程中的稀疏控制。数字。数学。122(4), 645-669 (2012) ·Zbl 1284.65074号 ·doi:10.1007/s00211-012-0475-7 此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。