×
塞雷娜·克里斯奇;费代利卡波塔;瓦莱里亚·鲁杰罗;卢卡·赞尼

非单调Armijo-like线搜索的尺度梯度投影方法的收敛性。 （英语） Zbl 1500.65023号

塞西州费拉拉安大学。VII、 科学。材料。 68，第2期，521-554（2022年）.
摘要：为了解决凸集上的约束优化问题，通常结合非单调Armijo-like线搜索策略来利用这类缩放梯度投影方法。这些技术用于有效地选择步长参数，可以通过两种不同的方法实现：沿圆弧的方法或沿可行方向的方法。本文深入分析了这两种Armijo-like线搜索的非单调版本所配备的缩放梯度投影方法的收敛性。据我们所知，对于非单调和标度对应的非标度或单调梯度投影算法，并没有给出所有证明的收敛结果。本文的目标是通过详细说明需要哪些假设来保证极限点的平稳性和由非单调比例梯度投影方案生成的序列的收敛性来填补这一知识空白。此外，在多面体约束集的情况下，我们讨论了沿弧方法生成的序列的解中活动集的识别。为了比较所考虑的缩放梯度投影方法的性能，对二次和非二次优化问题进行了几次数值实验。

引用于2文件

MSC公司：

65千5 数值数学规划方法
90C06型 数学规划中的大尺度问题
90立方 非线性规划
90-08 运筹学和数学规划相关问题的计算方法

关键词：

约束优化;比例梯度投影法;可变公制;非单调线搜索
PDF格式BibTeX公司 XML格式引用
\textit{S.Crisci}等人，塞兹州费拉拉安大学。VII、 科学。材料68，编号2，521--554（2022；Zbl 1500.65023）
全文： 内政部

参考文献：

[1] Bertsekas，DP，非线性规划（1999），马萨诸塞州贝尔蒙特：雅典娜科学公司，马萨诸塞诸塞州贝尔蒙特·Zbl 1015.90077号
[2] Bertsekas，DP；Tsitsiklis，J.，《并行和分布式计算：数值方法》（1997），马萨诸塞州贝尔蒙特：雅典娜科学出版社，马萨诸塞诸塞州贝尔蒙特·Zbl 0743.65107号
[3] Bertero，M.、Boccacci，P.、Ruggiero，V.：泊松数据的逆成像。英国布里斯托尔IOP出版社（2018）
[4] Figueiredo，MAT；罗德岛诺瓦克；Wright，SJ，《稀疏重建的梯度投影：压缩传感和其他反问题的应用》，Selec。顶部。信号处理。IEEE J.，1，4，586-597（2008）·doi:10.1109/JSTSP.2007.910281
[5] Sra，S。；诺沃津，S。；Wright，SJ，机器学习优化。神经信息处理系列（2012），马萨诸塞州剑桥：麻省理工学院出版社，马萨诸塞州剑桥
[6] Pardalos，PM；Rosen，JB，《约束全局优化：算法和应用》（1987），纽约州纽约市，美国：施普林格，纽约州，美国·Zbl 0638.90064号 ·doi:10.1007/BFb0000035
[7] 多斯塔尔，Z。；Kozubek，T。；萨多夫斯卡，M。；Vondrák，V.，接触问题的可缩放算法。《力学和数学进展》（2017），纽约：Springer，纽约·Zbl 1383.74002号
[8] 伯金，EG；JM马丁内斯；Raydan，M.，凸集上的非单调谱投影梯度方法，SIAM J.Optim。，10, 4, 1196-1211 (2000) ·Zbl 1047.90077号 ·doi:10.1137/S1052623497330963
[9] 博内蒂尼，S。；Zanella，R。；Zanni，L.，一种用于约束图像去模糊的缩放梯度投影方法，逆概率。，25, 1, 015002-23 (2009) ·Zbl 1155.94011号 ·doi:10.1088/0266-5611/25/1/015002
[10] 格里波，L。；Lampariello，F。；Lucidi，S.，牛顿法的非单调线搜索技术，SIAM J.Numer。分析。，23, 4, 707-716 (1986) ·Zbl 0616.65067号 ·doi:10.1137/0723046
[11] 卡拉梅，PH；莫雷，JJ，线性约束问题的投影梯度法，数学。程序。，39, 93-116 (1987) ·Zbl 0634.90064号 ·doi:10.1007/BF02592073
[12] Bertsekas，DP，《关于Goldstein-Levitin-Polyak梯度投影法》，IEEE Trans。自动化。对照，2174-184（1976）·Zbl 0326.49025号 ·doi:10.10109/TAC.1976.1101194
[13] Iussem，AN，关于凸优化的投影梯度方法的收敛性，Comput。申请。数学。，22, 1, 37-52 (2003) ·Zbl 1213.90197号
[14] 伯克，合资公司；莫雷，JJ，关于主动约束的识别，SIAM J.Numer。分析。，25, 5, 1197-1211 (1988) ·Zbl 0662.65052号 ·doi:10.1137/0725068
[15] 德安吉利斯，PL；Toraldo，G.，关于投影梯度法的识别特性，SIAM J.Numer。分析。，30, 5, 1483-1497 (1993) ·Zbl 0802.65080 ·数字对象标识代码：10.1137/0730077
[16] 王，C。；刘，Q。；杨，X.，非单调谱投影梯度法的收敛性，J.计算。申请。数学。，182, 51-66 (2005) ·Zbl 1072.90052号 ·doi:10.1016/j.cam.2004.10.018
[17] 博内蒂尼，S。；Prato，M.，缩放梯度投影法的新收敛结果，逆概率。，31, 9 (2015) ·Zbl 1333.90124号 ·doi:10.1088/0266-5611/31/9/095008
[18] 休，NH；王，CY；张，JZ，变分不等式投影和压缩方法的收敛性，应用。数学。最佳。，43, 147-168 (2001) ·Zbl 0980.9003号 ·doi:10.1007/s002450010023
[19] 王，CY；修，NH，广义凸极小化梯度投影法的收敛性，Comp。最佳方案。申请。，16, 111-120 (2000) ·Zbl 0963.90058号 ·doi:10.1023/A:1008714607737
[20] Polyak，B.，《优化导论》（1987），纽约出版部：纽约出版部优化软件公司·Zbl 0708.90083号
[21] 梳形物，PL；Vũ，BC，变度量准Féjer单调性，非线性分析。理论方法应用。，2013年7月78日至31日·Zbl 1266.65087号 ·doi:10.1016/j.na.2012.09.008
[22] 科特尔，RW；庞，JS；斯通，RE，《线性互补问题》（1992），费城：学术出版社，费城·兹伯利0757.90078
[23] Barzilai，J。；Borwein，JM，两点步长梯度法，IMA J.Numer。分析。，8, 141-148 (1988) ·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141
[24] 格拉维利亚语，GN；Sachs，EW，关于非单调线搜索算法的最坏情况评估复杂性，计算。最佳方案。申请。，63, 3, 555-577 (2017) ·Zbl 1388.90111号 ·doi:10.1007/s10589-017-9928-3
[25] 费雷拉，OP；Lemes，M。；Prudente，LF，关于不精确比例梯度投影法，计算。最佳方案。申请。，81, 91-125 (2022) ·Zbl 1484.90109号 ·doi:10.1007/s10589-021-00331-1
[26] 张，H。；Hager，WW，非单调线搜索技术及其在无约束优化中的应用，SIAM J.Optim。，14, 4, 1043-1056 (2004) ·Zbl 1073.90024号 ·doi:10.1137/S1052623403428208
[27] Dunn，JC，关于投影梯度过程到奇异临界点的收敛性，J.Optim。理论应用。，56, 203-216 (1987) ·Zbl 0616.90060号 ·doi:10.1007/BF00939081
[28] 博内蒂尼，S。；波尔塔，F。；Ruggiero，V。；Zanni，L.，成像中正向方法的可变度量技术，J.Compute。申请。数学。，386 (2021) ·Zbl 1471.65048号 ·doi:10.1016/j.cam.2020.113192
[29] 克里斯奇，S。；鲁杰罗，V。；Zanni，L.，盒约束二次规划梯度投影方法中的步长选择，应用。数学。计算。，356, 312-327 (2018) ·Zbl 1428.90110号
[30] di Serafino，D。；托拉尔多，G。；维奥拉，M。；Barlow，JL，一种求解具有单一线性约束和变量界的二次规划问题的两阶段梯度法，SIAM J.Optim。，28, 4, 2809-2838 (2018) ·Zbl 1461.65141号 ·doi:10.1137/17M1128538
[31] Dolan，ED；Moré，JJ，带性能配置文件的基准优化软件，数学。程序。，91, 2, 201-213 (2002) ·邮编：1049.90004 ·doi:10.1007/s101070100263
[32] Crisci，S。；波尔塔，F。；Ruggiero，V。；Zanni，L.，Barzilai-Borwein规则在求解具有上下界的单线性约束优化问题时的谱性质，SIAM J.Optim。，30, 2, 1300-1326 (2020) ·Zbl 1461.65139号 ·doi:10.1137/19M1268641
[33] 法奇尼，F。；Judice，J。；Soares，J.，《生成箱约束优化问题》，ACM Trans。数学。软质。，23, 3, 443-447 (1997) ·Zbl 0903.65056号 ·doi:10.1145/275323.275331
[34] 弗莱彻，R。；Powell，MJD，最小化的快速收敛下降法，计算。J.，6163-168（1963）·Zbl 0132.11603号 ·doi:10.1093/comjnl/6.2.163
[35] 弗莱彻，R。；齐，L。；Teo，K。；Yang，X.，关于barzilai-borwein方法，优化和应用控制，235-256（2005），马萨诸塞州波士顿：斯普林格·兹比尔1118.90318 ·doi:10.1007/0-387-24255-4_10
[36] 波塔，F。；Zanella，R。；Zanghirati，G。；Zanni，L.，显微镜实时图像反褶积的有限记忆尺度梯度投影方法，Commun。非线性科学。数字。模拟。，21, 112-127 (2015) ·doi:10.1016/j.cnsns.2014.08.035
[37] Lantéri，H。；罗氏，M。；Aime，C.，带正约束的惩罚最大似然图像恢复：乘法算法，逆问题。，18, 5, 1397-1419 (2002) ·Zbl 1023.62099号 ·doi:10.1088/0266-5611/18/5/313
[38] 伯金，EG；JM马丁内斯；Raydan，M.，《光谱投影梯度法：回顾与展望》，J.Stat.Soft。，60, 3, 1-21 (2014) ·doi:10.18637/jss.v060.2003
此参考列表基于出版商或数字数学图书馆提供的信息。其项与zbMATH标识符进行启发式匹配，可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。