×

单调夹杂物的连续类牛顿惯性动力学。 (英语) Zbl 1477.37101号

摘要:在Hilbert框架(mathcal{H})中,我们研究了由一般极大单调算子控制的类牛顿惯性动力系统的收敛性。当(A)等于凸下半连续本征函数的次微分时,动力学对应于Nesterov加速梯度法连续版本中引入Hessian驱动阻尼。因此,振动显著减弱。根据H.阿图克J.Peypoquet公司[数学课程.174,第1-2(B)号,391-432(2019年;Zbl 1412.37083号)]通过适当调整正则化参数,将最大单调算子替换为Yosida近似。在动力学中引入类牛顿修正项(对应于凸极小化情况下的Hessian驱动项)提供了一个适定的演化系统,对于该系统,我们将获得生成的轨迹向零点的弱收敛性。我们还获得了速度向零的快速收敛。结果允许存在误差和扰动。然后,我们将结果专门化到算子(A)是凸下半连续函数的次微分的情况,并获得快速优化结果。

MSC公司:

37号40 最优化和经济学中的动力系统
46N10号 函数分析在优化、凸分析、数学规划、经济学中的应用
65千5 数值数学规划方法
65K10像素 数值优化和变分技术
90磅50英寸 管理决策,包括多个目标
90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用
全文: 内政部 哈尔

参考文献:

[1] 阿巴斯,B。;Attouch,H。;Svaiter,BF,Hilbert空间中结构化单调包含的类牛顿动力学和前向支持方法,J.Optim。理论应用。,161, 2, 331-360 (2014) ·Zbl 1339.47080号 ·doi:10.1007/s10957-013-0414-5
[2] Alvarez,F。;Attouch,H.,通过带阻尼非线性振子的离散化求解最大单调算子的惯性近似方法,集值分析,9,1-2,3-11(2001)·Zbl 0991.65056号 ·doi:10.1023/A:1011253113155
[3] Alvarez,F。;Attouch,H。;博尔特,J。;Redont,P.,具有Hessian驱动阻尼的二阶类梯度耗散动力系统。应用于优化和力学,J.数学。Pures应用。,81, 8, 747-779 (2002) ·Zbl 1036.34072号 ·doi:10.1016/S0021-7824(01)01253-3
[4] 阿皮多普洛斯,V。;Aujol,J-F;Dossal,Ch,超越Nesterov规则的惯性前后向算法的收敛速度,数学。程序。,180, 137-156 (2020) ·Zbl 1439.90055号 ·doi:10.1007/s10107-018-1350-9
[5] Attouch,H.,Cabot,A.:最大单调算子的松弛惯性近似算法的收敛性。数学课程。doi:10.1007/s10107-019-01412-0(2019)·Zbl 07263694号
[6] Attouch,H。;Cabot,A.,惯性前向后退算法的收敛速度,SIAM J.Optim。,28, 1, 849-874 (2018) ·Zbl 1387.49047号 ·doi:10.1137/17M1114739
[7] Attouch,H.、Chbani,Z.、Fadili,J.、Riahi,H.:通过带有Hessian驱动阻尼的惯性系统的一阶算法。HAL-02193846(2019)
[8] Attouch,H。;查巴尼,Z。;Peypouquet,J。;Redont,P.,《惯性动力学和渐近消失粘性算法的快速收敛》,数学。程序。B、 168123-175(2018)·Zbl 1395.34068号 ·doi:10.1007/s10107-016-0992-8
[9] Attouch,H。;查巴尼,Z。;Riahi,H.,《通过阻尼惯性动力学时间标度的快速近似方法》,SIAM J.Optim。,29, 3, 2227-2256 (2019) ·Zbl 07105235号 ·doi:10.1137/18M1230207
[10] Attouch,H.,Chbani,Z.,Riahi,H.:亚临界情况下Nesterov加速梯度法的收敛速度α≤3。ESAIM-COCV 25,第2条(2019年)·Zbl 1437.49045号
[11] Attouch,H。;Goudou,X。;Redont,P.,《使用摩擦法的重球》。连续动力系统,通过耗散动力系统Commun的渐近分析对实值函数局部极小值的全局探索。康斯坦普。数学。,2, 1, 1-34 (2000) ·Zbl 0983.37016号 ·doi:10.1142/S02199700000025
[12] Attouch,H.,László,S.C.:类牛顿惯性动力学和由最大单调算子控制的近似算法。HAL-02549730(2020)·Zbl 1477.90058号
[13] Attouch,H。;Maingé,PE,结合势和非势效应的二阶耗散演化方程的渐近行为,ESAIM控制优化。计算变量,17,3,836-857(2011)·Zbl 1230.34051号 ·doi:10.1051/cocv/2010024
[14] Attouch,H。;Maingé,体育;Redont,P.,具有Hessian驱动阻尼的二阶微分系统;非弹性冲击定律的应用,不同。埃克。申请。,2012年4月1日,27-65·Zbl 1248.34091号
[15] Attouch,H。;Marques Alves,M。;Svaiter,BF,Hilbert空间中单调包含的近似Newton方法的动力学方法,具有复杂性\(mathcal{O}(1/n^2)O\)(1/n2),J.凸分析。,23, 1, 139-180 (2016) ·Zbl 1348.47053号
[16] Attouch,H。;Peypouquet,J.,由最大单调算子控制的惯性动力学和近似算法的收敛,数学。程序。,174,1-2391-432(2019)·Zbl 1412.37083号 ·doi:10.1007/s10107-018-1252-x
[17] Attouch,H。;Peypouquet,J.,Nesterov的加速前向后退方法的收敛速度实际上快于1/k2,SIAM J.Optim。,26, 3, 1824-1834 (2016) ·Zbl 1346.49048号 ·数字对象标识代码:10.1137/15M1046095
[18] Attouch,H。;Peypouquet,J。;Redont,P.,通过Hessian驱动阻尼的惯性动力学实现快速凸最小化,J.Differ。Equ.、。,261, 10, 5734-5783 (2016) ·Zbl 1375.49028号 ·doi:10.1016/j.jde.2016.08.020
[19] Attouch,H。;Redont,P。;Svaiter,BF,解Hilbert空间单调包含的闭环正则牛顿方法的全局收敛性,J.Optim。理论应用。,157, 3, 624-650 (2013) ·Zbl 1290.90061号 ·doi:10.1007/s10957-012-0222-3
[20] Attouch,H。;斯瓦特,BF,解单调包含的连续动力学类牛顿方法,SIAM J.控制优化。,49, 2, 574-598 (2011) ·Zbl 1229.34097号 ·数字对象标识代码:10.1137/100784114
[21] Bauschke,H.,Combettes,P.L.:希尔伯特空间中的凸分析和单调算子理论。CMS数学书籍。施普林格(2011)·Zbl 1218.47001号
[22] Brézis,H.:Opérateurs maximaux monotones dans les espaces de Hilbert etéquations d’e volution。课堂讲稿5北荷兰(1972)
[23] 博伊,RI;Csetnek,ER,单调包含问题的二阶前向向后动力系统,SIAM J.控制优化。,54, 1423-1443 (2016) ·兹比尔1339.34070 ·数字对象标识代码:10.1137/15M1012657
[24] 博伊,RI;塞特内克,ER;László,SC,变阻尼非凸光滑最小化的二阶动力学方法,应用。分析。,99, 3, 361-378 (2020) ·Zbl 1428.90129号 ·doi:10.1080/00036811.2018.1495330
[25] Boţ,R.I.,Csetnek,E.R.,László,S.C.:具有Hessian阻尼的二阶动力系统的Tikhonov正则化。数学编程。doi:10.1007/s10107-020-01528-8(2020)
[26] Castera,C.、Bolt,J.、Févotte,C.、Pauwels,E.:深度学习的惯性牛顿算法。HAL-02140748(2019)
[27] Chambolle,A。;Dossal,Ch,关于快速迭代收缩阈值算法迭代的收敛性,J.Optim。理论应用。,166, 968-982 (2015) ·Zbl 1371.65047号 ·doi:10.1007/s10957-015-0746-4
[28] Haraux,A.:系统动态耗散和应用。RMA 17 Masson(1991年)·Zbl 0726.58001号
[29] Kim,D.:最大单调算子的加速邻近点方法。arXiv:1905.05149v3(2020)
[30] László,S.C.:与光滑非凸最小化相关的梯度型惯性算法的收敛速度。数学编程。doi:10.1007/s10107-020-01534-w(2020)·Zbl 1478.90097号
[31] Lin,T.,Jordan,M.I.:最优高阶优化的控制理论观点。arXiv:1912.07168v1(2019)
[32] May,R.,具有凸势和消失阻尼项的二阶发展方程的渐近性,土耳其数学杂志。,41, 3, 681-685 (2017) ·Zbl 1424.34186号 ·doi:10.3906/mat-1512-28
[33] Nesterov,Y.,求解收敛速度为o(1/k2)的凸规划问题的方法,(俄罗斯)Dokl。阿卡德。诺克SSSR,269,3543-547(1983)·Zbl 0535.90071号
[34] Polyak,BT,加快迭代法收敛的一些方法,Z.Vylist。数学。Fiz.公司。,4, 1-17 (1964) ·Zbl 0147.35301号
[35] Shi,B.,Du,S.S.,Jordan,M.I.,Su,W.J.:通过高分辨率微分方程了解加速度现象。arXiv:提交/2440124[cs.LG](2018)
[36] 苏,WJ;博伊德,S。;Candès,EJ,Nesterov加速梯度法建模的微分方程:理论和见解,神经信息处理系统,272510-2518(2014)·Zbl 1391.90667号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。