佐里·阿米尼法德；萨曼Babaie-Kafaki 基于非单调ADMM的对角线拟牛顿更新及其在压缩感知问题中的应用。 （英语） Zbl 1529.90084号 数学。模型。分析。 28，第4号，673-688（2023）。 小结：根据Byrd-Nocedal测度函数和割线方程考虑最小化问题，提出了对角线拟Newton更新公式。为了找到更新矩阵的最优元素，采用了众所周知的交替方向乘法器（ADMM）算法。此外，基于改进的非单调Armijo线搜索结合模拟退火策略进行了收敛性分析。最后，在一组CUTEr函数和压缩传感问题的光滑超越逼近上对该方法的性能进行了数值测试。在整个计算范围内，给出的方法证明是成功的。 MSC公司： 90C53型 拟Newton型方法 90 C59 数学规划中的近似方法和启发式 94A08型 信息与通信理论中的图像处理（压缩、重建等） 关键词：大规模优化；准纽顿更新；ADMM策略；非单调线搜索；模拟退火；压缩传感；平滑技术 软件：CG_退出；切割机 PDF格式BibTeX公司 XML格式引用 \textit{Z.Aminifard}和\textit{S.Babaie-Kafaki}，数学。模型。分析。28，第4号，673--688（2023；Zbl 1529.90084） 全文： 内政部 OA许可证 参考文献： [1] K.Amini和A.Ghorbani Rizi。利用Hessian上的部分信息，提出了一种新的结构化拟Newton算法。J.计算。申请。数学。，234(3):805-811, 2010. https://doi.org/10.1016/j.cam.2010.01.044。 ·Zbl 1190.65094号 ·doi:10.1016/j.cam.2010.01.044 [2] Z.Aminifard和S.Babaie-Kafaki。非凸函数的改进下降Polak-Ribière-Polyak共轭梯度法具有全局收敛性。卡尔科洛，56（2）：2019年16月。https://doi.org/10.1007/s10092-019-0312-9。 ·兹伯利1415.90147 ·doi:10.1007/s10092-019-0312-9 [3] Z.Aminifard和S.Babaie-Kafaki。对角尺度无记忆准牛顿方法及其在压缩传感中的应用。J.工业管理。最佳。，19(1):437-455, 2023. https://doi.org/10.3934/jimo.2021191。 ·Zbl 1513.90226号 ·doi:10.3934/jimo.2021191 [4] Z.Aminifard、A.Hosseini和S.Babaie-Kafaki。求解具有非凸惩罚的稀疏恢复问题的改进共轭梯度法。信号处理。，193:104242022年。https://doi.org/10.1016/j.sigpro.2021.108424。 ·doi:10.1016/j.sigpro.2021.108424 [5] N.安德烈。凸函数。高级模型。最佳。，9(2):257-267, 2007. ·兹比尔1157.90499 [6] N.安德烈。针对无约束优化问题，提出了一种基于最小化Byrd和Nocedal测度函数的对角拟Newton更新方法。Optimiza-tion，67（9）：1553-15682018。https://doi.org/10.1080/02331934.2018.1482298。 ·兹比尔1402.65049 ·doi:10.1080/02331934.2018.1482298 [7] N.安德烈。无约束优化问题的有限差分对角线逼近。J.优化。理论应用。，185(3):859-879, 2020. https://doi.org/10.1007/s10957-020-01676-z。 ·Zbl 1441.49029号 ·doi:10.1007/s10957-020-01676-z [8] S.Babaie-Kafaki公司。关于自尺度无记忆拟牛顿更新公式参数的优化。J.优化。理论应用。，167(1):91-101, 2015. https://doi.org/10.1007/s10957-015-0724-x。 ·Zbl 1327.90394号 ·doi:10.1007/s10957-015-0724-x [9] S.Babaie-Kafaki公司。基于带状三对角逆Hessian逼近的单调预处理梯度法。布加勒斯特理工大学。牛市。序列号。A： 申请。数学。物理。，80(1):55-62, 2018. ·Zbl 1424.90293号 [10] S.Babaie-Kafaki和Z.Aminifard。初始步长为非单调选择的双参数缩放无记忆BFGS方法。数字。阿尔戈。，82(4):1345-1357, 2019. https://doi.org/10.1007/s11075-019-00658-1。 ·Zbl 1433.90157号 ·doi:10.1007/s11075-019-00658-1 [11] S.Babaie-Kafaki，Z.Aminifard和S.Ghafoori。非单调对角尺度有限记忆BFGS方法及其在基于惩罚模型的压缩感知中的应用。申请。数字。数学。，181:618-629, 2022. https://doi.org/10.1016/j.apnum.2022.07.008。 ·Zbl 1498.90222号 ·doi:10.1016/j.apnum.2022.07.008 [12] S.Babaie-Kafaki和R.Ghanbari。Hestenes-Stiefel方法和无记忆BFGS技术的线性杂交。梅迪特尔。数学杂志。，15:86, 2018. https://doi.org/10.1007/s00009-018-1132-x。 ·Zbl 1402.90211号 ·数字对象标识代码：10.1007/s00009-018-1132-x [13] Y.J.巴古尔。|x|的平滑超越逼近。埋。数学杂志。科学与工程师。申请。，11（II）：2017年第213-217页。 [14] J.Barzilai和J.M.Borwein。两点步长梯度法。IMA J.数字。分析。，8（1）：141-1481988年。https://doi.org/10.1093/imanum/8.1.141。 ·Zbl 0638.65055号 ·doi:10.1093/imanum/8.1.141 [15] D.Bertsimas和J.N.Tsitsiklis。线性优化简介。雅典娜科学公司，马萨诸塞州，1997年。 [16] A.M.Bruckstein、D.L.Donoho和M.Elad。从方程组的稀疏解到信号和图像的稀疏建模。SIAM版本，51（1）：34-812009。https://doi.org/10.1137/060657704。 ·Zbl 1178.68619号 ·数字对象标识代码：10.1137/060657704 [17] R.H.Byrd和J.Nocedal。用于分析无约束极小化应用的拟Newton方法的工具。SIAM J.数字。分析。，26(3):727-739, 1989. https://doi.org/10.1137/0726042。 ·Zbl 0676.65061号 ·doi:10.1137/0726042 [18] X.陈。非光滑、非凸最小化的平滑方法。数学。编程，134:71-992012。https://doi.org/10.1007/s10107-012-0569-0。 ·Zbl 1266.90145号 ·doi:10.1007/s10107-012-0569-0 [19] 戴玉华和廖立中。新的共轭条件和相关的非线性共轭梯度方法。申请。数学。最佳。，43（1）：87-1012001年。https://doi.org/10.1007/s002450010019。 ·Zbl 0973.65050号 ·doi:10.1007/s002450010019 [20] J.E.Dennis，Jr.和H.Wolkowicz。大小调整和最少更改超高方法。SIAM J.数字。分析。，30(5):1291-1314, 1993. https://doi.org/10.1137/0730067。 ·Zbl 0802.65081号 ·数字对象标识代码：10.1137/0730067 [21] E.D.Dolan和J.J.Moré。使用性能配置文件对优化软件进行基准测试。数学。编程，91（2，A系列）：201-2132002。https://doi.org/10.1007/s101070100263。 ·邮编：1049.90004 ·doi:10.1007/s101070100263 [22] W.L.Dong、X.Li和Z.Peng。基于模拟退火的Barzilai-Borwein梯度法求解无约束优化问题。亚洲-太平洋。《运营杂志》。研究，36（4）：19500172019年。https://doi.org/10.1142/S0217595919500179。 ·Zbl 1423.90140号 ·doi:10.1142/S0217595919500179 [23] N.I.M.Gould、D.Orban和Ph.L.Toint。CUTEr：一个约束和非约束的测试环境，再次访问。ACM变速器。数学。软件，29（4）：373-3942003。https://doi.org/10.1145/962437.9624343439。 ·Zbl 1068.90526号 ·数字对象标识代码：10.1145/962437.96243439 [24] L.Grippo、F.Lampariello和S.Lucidi。牛顿法的非单调线搜索技术。SIAM J.数字。分析。，23(4):707-716, 1986. https://doi.org/10.1137/0723046。 ·Zbl 0616.65067号 ·doi:10.1137/0723046 [25] W.W.Hager和H.Zhang。算法851:CG−Descent，一种保证下降的共轭梯度法。ACM变速器。数学。软件，32（1）：113-1372006。https://doi.org/10.1145/1132973.1132979。 ·Zbl 1346.90816号 ·数字对象标识代码：10.1145/1132973.1132979 [26] L.Han、G.Yu和L.Guan。无约束优化的多元谱梯度法。申请。数学。计算。，201(1-2):621-630, 2008. https://doi.org/10.1016/j.amc.2007.12.054。 ·Zbl 1155.65046号 ·doi:10.1016/j.amc.2007.12.054 [27] M.A.Hassan、W.J.Leong和M.Farid。一种通过准柯西关系保证下降的新梯度方法。J.计算。申请。数学。，230（1）：300-3052009年。https://doi.org/10.1016/j.cam.2008.11.013。 ·Zbl 1179.65067号 ·doi:10.1016/j.cam.2008.11.013 [28] P.J.Huber。稳健回归：渐近性、猜想和蒙特卡罗。Ann.Stat.，1（5）：799-8211973年。https://doi.org/10.1214/aos/1176342503。 ·Zbl 0289.62033号 ·doi:10.1214/aos/1176342503 [29] W.J.Leong、M.Farid和M.A.Hassan。大规模无约束优化中对角线拟Newton更新的缩放。B.马来人。数学。科学。因此，35（2）：247-2562012·Zbl 1246.65092号 [30] D.H.Li和M.Fukushima。非凸无约束优化问题BFGS方法的全局收敛性。SIAM J.Optim.公司。，11(4):1054-1064, 2001. https://doi.org/10.1137/S1052623499354242。 ·Zbl 1010.90079号 ·doi:10.1137/S1052623499354242 [31] Y.内斯特罗夫。非光滑函数的平滑最小化。数学。编程，103（1）：127-1522005。https://doi.org/10.1007/s10107-004-0552-5。 ·Zbl 1079.90102号 ·doi:10.1007/s10107-004-0552-5 [32] A.M.Nezhad、R.A.Shandiz和A.E.Jahromi。用于非线性规划问题的粒子群BFGS算法。计算。操作。决议，40（4）：963-9722013年。https://doi.org/10.1016/j.cor.2012.11.008。 ·Zbl 1349.90866号 ·doi:10.1016/j.cor.2012.11.008 [33] S.S.Oren和D.G.Luenberger。自缩放可变度量（SSVM）算法·Zbl 0316.90064号 [34] 一、缩放一类算法的准则和充分条件。管理科学。，20（5）：845-8621973年。https://doi.org/10.1287/mnsc.20.5.845。 ·Zbl 0316.90064号 ·doi:10.1287/mnsc.20.5.845 [35] S.S.Oren和E.Spedicato。自缩放可变度量算法的最优条件。数学。编程，10（1）：70-901976。https://doi.org/10.1007/BF01580654。 ·Zbl 0342.90045号 ·doi:10.1007/BF01580654 [36] 孙文华和袁玉霞。优化理论与方法：非线性规划。施普林格，纽约，2006年·邮编1129.90002 [37] Z.Wei、G.Li和L.Qi。无约束优化问题的新拟Newton方法·兹比尔1100.65054 [38] 申请。数学。计算。，175(2):1156-1188, 2006. https://doi.org/10.1016/j.amc.2005.08.027。 ·兹比尔1100.65054 ·doi:10.1016/j.amc.2005.08.027 [39] C.Xu和J.Z.Zhang。拟牛顿方程和拟牛顿优化方法综述。安·Oper。决议，103（1-4）：213-2342001·Zbl 1007.90069号 [40] Y.Xu、M.Liu、Q.Lin和T.Yang。无固定惩罚参数的ADMM：使用新的自适应惩罚加快收敛。I.Guyon、U.Von Luxburg、S.Bengio、H.Wallach、R.Fergus、S.Vishwanathan和R.Garnett（编辑），《神经信息处理系统进展》，第30卷。Curran Associates，Inc.，2017年。 [41] H.Zhang和W.W.Hager。非单调线搜索技术及其在无约束优化中的应用。SIAM J.Optim.公司。，14(4):1043-1056, 2004. https://doi.org/10.1137/S1052623403428208。 ·Zbl 1073.90024号 ·doi:10.1137/S10526223403428208 [42] M.Zhu、J.L.Nazareth和H.Wolkowicz。拟柯西关系和对角更新。SIAM J.Optim.公司。，9(4):1192-1204, 1999. https://doi.org/10.1137/S1052623498331793。 ·Zbl 1013.90137号 ·doi:10.137/S1052623498331793 此参考列表基于出版商或数字数学图书馆提供的信息。它的项目与zbMATH标识符启发式匹配，并且可能包含数据转换错误。在某些情况下，zbMATH Open的数据对这些数据进行了补充/增强。这试图尽可能准确地反映原始论文中列出的参考文献，而不要求完整或完全匹配。