×

通过结合Hessian驱动阻尼和Tikhonov正则化的惯性动力学实现一般凸极小的轨迹强收敛。 (英语) Zbl 1530.37112号

摘要:设(mathscr{H})为实Hilbert空间,(f:mathscr}H}tomathbb{R})是其解集为(operatorname)的凸二次可微函数{参数}f\)非空。我们研究了具有Tikhonov正则项和Hessian驱动阻尼的消失阻尼动力系统轨迹的长时间行为\[\ddot{x}(t)+\alpha\dot{x}(t)+\delta\nabla^2f(x\]其中,\(alpha\)、\(c\)和\(delta \)是三个正常数,时间尺度参数\(beta \)为正的非递减函数,从而\(lim_{t\to+infty}\ beta(t)=+infty \)。在参数\(\beta\)的一些假设下,我们将显示值的快速收敛性,强收敛于\(\operatorname的最小范数元素{参数}f\)以及梯度向零的快速收敛。请注意,Hessian驱动阻尼显著降低了振荡方面,时间尺度参数(β)提高了上述收敛速度。作为(β)的特殊情况,我们为((p,q)in(mathbb)设置了{R}_+)^2反斜杠(0,0)和(β(t)=e^{γt^p}),表示(p\in]0,1[\)和(γ>0\)。手稿最后给出了两个数值示例并对其性能进行了评论。

MSC公司:

37纳米40 最优化和经济学中的动力系统
46N10号 函数分析在优化、凸分析、数学规划、经济学中的应用
65千5 数值数学规划方法
65K10码 数值优化和变分技术
90B50型 管理决策,包括多个目标
90C25型 凸面编程
PDF格式BibTeX公司 XML格式引用
全文: 内政部

参考文献:

[1] Cabot,A.,《由缓慢消失项控制的邻近点算法:分层最小化的应用》,SIAM J.Optim。,15, 555-572 (2005) ·Zbl 1079.90098号 ·doi:10.1137/S105262340343467X
[2] Attouch,H。;Czarnecki,M.-O.,多尺度方面耦合动力系统的渐近行为,J.Differ。Equ,2481315-1344(2010)·兹比尔1190.37090 ·doi:10.1016/j.jde.2009.06.014
[3] Attouch,H。;Czarnecki,M.-O.,涉及惯性和多尺度方面的类梯度动力系统的渐近行为,J.Differ。Equ,262,3,2745-2770(2017)·Zbl 1375.37188号 ·doi:10.1016/j.jde.2016.11.009
[4] Chadli,O。;查巴尼,Z。;Riahi,H.,广义单调双函数平衡问题及其在变分不等式中的应用,J.Optim。理论应用,105,299-323(2000)·Zbl 0966.91049号 ·doi:10.1023/A:1004657817758
[5] Attouch,H.,《应用数学系列,函数和算子的变分收敛》(1984),波士顿:皮特曼高级出版计划,波士顿·Zbl 0561.49012号
[6] Rockafellar,R.T.,凸函数的Fenchel对偶定理的推广,杜克数学。J.,33,81-89(1966年)·Zbl 0138.09301号 ·doi:10.1215/S0012-7094-66-03312-6
[7] Attouch,H.,最小化问题的粘度解,SIAM J.Optim。,6, 3, 769-806 (1996) ·Zbl 0859.65065号 ·doi:10.1137/S1052623493259616
[8] Attouch,H。;Cominetti,R.,用最速下降法进行凸最小化耦合近似的动力学方法,J.Differ。Equ,128,2,519-540(1996)·Zbl 0886.49024号 ·doi:10.1006/jdeq.1996.0104
[9] Polyak,B.,《加速迭代法收敛的一些方法》,苏联计算机。数学。数学。物理学,4,1-17(1964)·Zbl 0147.35301号 ·doi:10.1016/0041-5553(64)90137-5
[10] Polyak,B.,《优化导论》(1987),纽约:优化软件Inc,纽约·Zbl 0625.62093号
[11] Attouch,H。;查巴尼,Z。;法迪利,J。;Riahi,H.,通过带有Hessian驱动阻尼的惯性系统的一阶算法,数学。程序。,193, 113-155 (2022) ·Zbl 1497.37121号 ·doi:10.1007/s10107-020-01591-1
[12] Attouch,H。;巴尔哈,A。;查巴尼,Z。;Riahi,H.,Tikhonov正则化消失的阻尼惯性动力学:朝向最小范数解的强渐近收敛,J.Differ。鄂曲,311,29-58(2022)·Zbl 1489.37113号 ·doi:10.1016/j.jd.2021.12.005
[13] 博伊,R.I。;Csetnek,E.R。;László,S.C.,具有Hessian驱动阻尼的二阶动力系统的Tikhonov正则化,数学。计划,189151-186(2021)·Zbl 1489.34088号 ·doi:10.1007/s10107-020-01528-8
[14] Cabot,A.,由稳定项控制的类惯性梯度动力系统,J.Optim。理论应用,120,275-303(2004)·Zbl 1070.90107号 ·doi:10.1023/B:JOTA.000015685.21638.8d
[15] 卡博特。;恩格尔,H。;Gadat,S.,关于具有渐近小耗散的二阶微分方程的长时间行为,Trans。阿默尔。数学。Soc.,3615983-6017(2009年)·Zbl 1191.34078号 ·doi:10.1090/S0002-9947-09-04785-0
[16] Jendoubi,医学硕士。;May,R.,关于具有Tikhonov型正则项的渐近自治系统,Arch。数学。(巴塞尔,95,4389-399(2010)·Zbl 1217.34085号 ·doi:10.1007/s00013-010-0181-6
[17] 苏·W。;博伊德,S。;Candès,E.J.,《Nesterov加速梯度法建模的微分方程:理论与见解》,J.Mach。学习。研究,17,5312-5354(2016)·Zbl 1391.90667号 ·doi:10.5555/2946645.3053435
[18] Attouch,H。;查巴尼,Z。;Riahi,H.,将凸优化的快速惯性动力学与Tikhonov正则化相结合,J.Math。分析。申请,4571065-1094(2018)·兹比尔1375.65080 ·doi:10.1016/j.jmaa.2016.12.017
[19] Attouch,H。;卡博特。;Redont,P.,《通过微分夹杂物的表观正则化实现弹性冲击动力学》,高等数学出版社。科学。申请书,12,273-306(2002)·Zbl 1038.49029号
[20] Nesterov,Y.,解决具有收敛速度的凸规划问题的方法,苏联数学。道克。,27, 372-376 (1983) ·兹伯利0535.90071
[21] Nesterov,Y.,《凸优化导论:基础课程》,第87卷,应用优化(2004),马萨诸塞州波士顿:Kluwer学术出版社·Zbl 1086.90045号
[22] Nesterov,Y.,《如何使梯度变小》,Optima,MPS新闻稿,88,10-11(2012)
[23] Nesterov,Y.,最小化复合函数的梯度方法,数学。程序。,140, 1, 125-161 (2013) ·兹比尔1287.90067 ·doi:10.1007/s10107-012-0629-5
[24] Bo̧t,R.I。;Csetnek,E.R。;László,S.C.,具有Hessian驱动阻尼的二阶动力系统的Tikhonov正则化,189151-186(2021)·Zbl 1489.34088号 ·doi:10.1007/s10107-020-01528-8
[25] Csetnek,R.E.,Karapetyants,M.A.(2022)。一种用于非光滑凸优化的快速连续时间方法,具有时间尺度和Tikhonov正则化,预打印。
[26] Attouch,H.,László,S.C.(2021)。通过带消失Tikhonov正则化的惯性算法进行凸优化:快速收敛到最小范数解。arXiv.2104.11987年。内政部:。
[27] László,S.C.(2022)。关于具有渐近消失阻尼的Tikhonov正则二阶动力系统的轨迹的强收敛性。arXiv:2202.08980。
[28] Attouch,H.、Balhag,A.、Chbani,Z.、Riahi,H.(2022)。将Tikhonov正则化与Hessian驱动的几何阻尼相结合的加速梯度法。arXiv.2203.05457。内政部:·Zbl 1522.37096号
[29] Attouch,H.、Boţ,R.I.、Nguyen,D.-K.(2022)。通过时间尺度和最速下降平均进行快速凸优化。arXiv.2208.08260。内政部:。
[30] Attouch,H.、Chbani,Z.、Riahi,H.(2022)。强收敛到最小范数极小值的加速梯度法:一种结合时间尺度、平均和Tikhonov正则化的动态方法。arXiv.2211.10140。内政部:。
[31] Attouch,H。;查巴尼,Z。;Riahi,H.,《通过阻尼惯性动力学时间标度的快速近似方法》,SIAM J.Optim。,29, 3, 2227-2256 (2019) ·Zbl 07105235号 ·doi:10.1137/18M1230207
[32] Attouch,H。;切巴尼,Z。;Riahi,H.,通过阻尼惯性梯度动力学的时间尺度进行快速凸优化,Pure Appl。功能。分析。,6, 6, 1081-1117 (2021) ·Zbl 1489.37095号
[33] Attouch,H。;巴尔哈,A。;查巴尼,Z。;Riahi,H.,《通过惯性动力学结合粘性和Hessian驱动阻尼与时间尺度的快速凸优化》,Evol。埃克。控制理论,11,2,487-514(2022)·Zbl 1495.37066号 ·doi:10.3934/eect.2021010
[34] 巴格,A.C。;查巴尼,Z。;Riahi,H.,Tikhonov项正则化的重球方法。值和轨迹的同时收敛,Evol。埃克。控制理论,12,2,687-702(2023)·Zbl 1521.37098号 ·doi:10.3934/eect.2022046
[35] Brézis,H.,Analyse Fonctionnelle,Théorie et Applications(1983),巴黎:马森,巴黎·Zbl 0511.46001号
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配,可能包含数据转换错误。在某些情况下,zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献,而不要求完整或完全匹配。