×

变阻尼二阶动力学方法实现非凸光滑极小化。 (英语) Zbl 1428.90129号

申请。分析。 99,第3期,361-378(2020年); 勘误表同上,99,第3548号(2020)。
小结:我们研究了一个具有可变阻尼的二阶动力系统,它与非凸可微函数的最小化有关。该动力学系统是按照微分方程的精神来描述的,该微分方程模拟了Nesterov的加速凸梯度法。我们证明,如果目标函数的正则化满足Kurdyka-Łojasiewicz性质,则生成的轨迹收敛到一个临界点。我们还提供了用Łojasiewicz指数表示的轨迹的收敛速度。

MSC公司:

90C26型 非凸规划,全局优化
90立方 非线性规划
65K10码 数值优化和变分技术
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] 苏·W。;博伊德,S。;坎迪斯,EJ。,Nesterov加速梯度法建模的微分方程:理论与见解,J Mach Learn Res,17,1-43(2016)·Zbl 1391.90667号
[2] Nesterov,YE.,一种求解具有收敛速度的凸规划问题的方法(####),(俄罗斯)Dokl-Akad-Nauk SSSR,269,3543-547(1983)
[3] Attouch,H。;查巴尼,Z。;Peypouquet,J.,具有渐近消失粘性的惯性动力学和算法的快速收敛,数学程序,168,1-2,123-175(2018)·Zbl 1395.34068号 ·doi:10.1007/s10107-016-0992-8
[4] Attouch,H。;Peypouquet,J。;Redont,P.,通过Hessian驱动阻尼的惯性动力学进行快速凸优化,J Differ Equat,261,10,5734-5783(2016)·Zbl 1375.49028号 ·doi:10.1016/j.jde.2016.08.020
[5] Chambolle,A。;Dossal,C.,关于“快速迭代收缩/阈值算法”迭代的收敛性,《优化理论应用杂志》,166,3,968-982(2015)·Zbl 1371.65047号 ·doi:10.1007/s10957-015-0746-4
[6] 贝克,A。;Teboulle,M.,线性反问题的快速迭代收缩阈值算法,SIAM J Imag Sci,2,1,183-202(2009)·Zbl 1175.94009号 ·doi:10.1137/080716542
[7] Attouch,H,Chbani,Z,Riahi,H。Nesterov加速梯度法在亚临界情况下的收敛速度(####.2017\)。arXiv:1706.05671·Zbl 1437.49045号
[8] Haraux,A。;马萨诸塞州Jendoubi,《带有线性缓慢时滞阻尼项的二阶微分方程的渐近性》,Evol-Equat-Contr-Theor,2,3461-470(2013)·Zbl 1372.34084号 ·doi:10.3934/预计2012.3.461
[9] Balti,M.,具有非线性缓慢时滞阻尼和可积源的二阶微分方程的渐近行为,Electron J Differ Equat,302,11pp(2015)·Zbl 1329.34017号
[10] 贝古特,P。;博尔特,J。;马萨诸塞州Jendoubi,《关于阻尼二阶梯度系统》,J Differ Equat,2593115-3143(2015)·Zbl 1347.34082号 ·doi:10.1016/j.jde.2015.04.016
[11] Haraux,A。;Jendoubi,MA,具有解析非线性的二阶类梯度系统解的收敛性,J Differ Equat,144,2,313-320(1998)·Zbl 0915.34060号 ·doi:10.1006/jdeq.1997.3393
[12] 制冷,R。;马萨诸塞州Jendoubi,《带有线性缓慢时滞阻尼项的二阶微分方程的渐近性》,Evol-Equat-Contr-Theor,2,3461-470(2013)·Zbl 1372.34084号 ·doi:10.3934/eect.2013.2.461
[13] 博伊,RI;急诊科Csetnek;László,SC,通过二阶近似粒度动力系统实现非光滑非凸最小化,J Evol-Equat(2018)·Zbl 1402.34069号 ·doi:10.1007/s00028-018-0441-7
[14] 阿巴斯,B。;Attouch,H.等人。;Svaiter,BF.,Hilbert空间中结构化单调包含的类牛顿动力学和前向支持方法,J Optim理论应用,161,2,331-360(2014)·Zbl 1339.47080号 ·doi:10.1007/s10957-013-0414-5
[15] Attouch,H。;Svaiter,BF.,求解单调包含的连续动力学类牛顿方法,SIAM J Control Optim,49,2,574-598(2011)·Zbl 1229.34097号 ·数字对象标识代码:10.1137/100784114
[16] Haraux,A.Systèmes Dynamics Dissipatifs et Applications,Recherches en Mathématiques Appliques 17,巴黎马森,1991年·Zbl 0726.58001号
[17] Sontag,ED.,数学控制理论。确定性有限维系统(1998),纽约:Springer-Verlag,纽约·Zbl 0945.93001号
[18] Alvarez,F。;Attouch,H。;Bolt,J.,具有Hessian驱动阻尼的二阶类梯度耗散动力系统。应用于优化和力学,J Math Pures et Appl,81,8,747-779(2002)·Zbl 1036.34072号 ·doi:10.1016/S0021-7824(01)01253-3
[19] Łojasiewicz,S.Une propriétét e拓扑des sous-ensemples analytiques réels,Leséquations aux Dériveées Partielles,巴黎国家科学研究中心,87-891963·Zbl 0234.57007号
[20] Kuryka,K.,关于o-极小结构中可定义函数的梯度,Ann l Fourier(Grenoble),48,3,769-783(1998)·Zbl 0934.32009 ·doi:10.5802/aif.1638
[21] Attouch,H。;博尔特,J。;Redont,P.,非凸问题的近似交替最小化和投影方法:基于Kurdyka-Łojasiewicz不等式的方法,Math Oper Res,35,2,438-457(2010)·Zbl 1214.65036号 ·doi:10.1287/门.1100.0449
[22] 博尔特,J。;Danilidis,A。;Lewis,A.,非光滑子分析函数的Łojasiewicz不等式及其在次梯度动力系统中的应用,SIAM J Optim,17,4,1205-1223(2006)·Zbl 1129.26012号 ·doi:10.1137/050644641
[23] 博尔特,J。;Danilidis,A。;刘易斯,A.,分层函数的克拉克次梯度,SIAM J Optim,18,2556-572(2007)·Zbl 1142.49006号 ·doi:10.1137/060670080
[24] 博尔特,J。;Danilidis,A。;Ley,O.,Łojasiewicz不等式的特征:次梯度流,talweg,凸性,Trans-Am Math Soc,362,6,3319-3363(2010)·Zbl 1202.26026号 ·doi:10.1090/S0002-9947-09-05048-X
[25] Attouch,H。;Bolt,J.,《关于涉及分析特征的非光滑函数的近似算法的收敛性》,《数学程序》,116,1-2,5-16(2009)·Zbl 1165.90018号 ·文件编号:10.1007/s10107-007-0133-5
[26] Attouch,H。;博尔特,J。;Svaiter,BF.,半代数和驯服问题下降方法的收敛性:近似算法,前向-后向分裂,正则化高斯-赛德尔方法,数学程序,137,1-2,91-129(2013)·Zbl 1260.49048号 ·doi:10.1007/s10107-011-0484-9
[27] 博尔特,J。;萨巴赫,S。;Teboulle,M.,非凸和非光滑问题的近似交替线性化最小化,数学程序Ser A,146,1-2,459-494(2014)·Zbl 1297.90125号 ·doi:10.1007/s10107-013-0701-9
[28] Rockafellar,RT,Wets,RJ-B。变分分析,数学科学基本原理,317。柏林:斯普林格·弗拉格;1998. ·Zbl 0888.49001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。